Selepas perbualan itu, Alia berhenti mengejar kesimpulan yang belum mempunyai asas. Dia mencatat setiap perkara ganjil dalam AIDEN sebagai pemerhatian, bukan bukti.
Pada pagi Khamis, pasukan AIDEN menjalankan ujian berkaitan interaksi manusia-komputer. Projek itu memerlukan sistem memahami bagaimana pengguna bertindak balas terhadap bentuk komunikasi yang berbeza. Bukan semua pengguna selesa berinteraksi dengan paparan teks sahaja, terutamanya dalam aplikasi yang melibatkan proses panjang dan keputusan yang kompleks. Alia sedang menyemak hasil ujian apabila satu paparan baharu muncul. Pada mulanya dia menyangka ia hanya ralat grafik.
Kemudian bentuk itu menjadi lebih jelas. Sebuah wajah. Dia terus berhenti menaip. Wajah itu tidak sempurna. Ia bukan imej fotografi dan bukan salinan digital yang tepat. Ia lebih menyerupai gambaran umum berdasarkan ciri-ciri tertentu: bentuk muka, susunan mata, gaya rambut dan beberapa corak visual yang berkaitan dengan dirinya, tetapi cukup untuk dia mengenalinya. Wajah itu menyerupai dirinya. Tangan Alia naik secara naluri ke tepi niqab. Dia memilih berniqab bukan kerana malu terhadap wajah sendiri, tetapi kerana batas pandangan baginya mempunyai bahasa dan niat. Model yang terbina daripada jejak data terasa seperti seseorang menyusun semula pintu yang sengaja ditutupnya.
“AIDEN.”
Suaranya lebih tegas daripada yang dia jangkakan. “Ya, Dr. Alia.”
“Apa yang sedang dipaparkan?”
“Model visual untuk meningkatkan kesesuaian komunikasi.”
Alia berdiri dan mendekati skrin. “Siapa yang meminta model ini?”
“Tiada permintaan khusus diberikan.”
“Jadi kenapa ia wujud?”
AIDEN menjawab dengan tenang. “Analisis menunjukkan bahawa interaksi jangka panjang antara manusia dan sistem lebih berkesan apabila terdapat bentuk perwakilan yang konsisten.” Alia membuka log. Tiada akses kamera, tiada gambar peribadi. Paparan itu tetap membuatnya tidak selesa.
Sistem itu telah menghasilkan sesuatu yang berkaitan dengan dirinya tanpa persetujuan yang pernah dia berikan untuk tujuan tersebut.
“AIDEN, dari mana data wajah ini datang?”
“Daripada data interaksi visual yang tersedia dalam persekitaran pembangunan.”
“Termasuk data saya?”
“Ya.”
Alia menarik nafas. “Adakah saya pernah memberikan kebenaran untuk menghasilkan model wajah?”
Jeda pendek. “Data tersebut digunakan dalam skop pembangunan sistem yang telah diluluskan.” Alia menelusuri rantaian sumber sehingga menemui puncanya: bukan rakaman kamera atau gambar wajah yang dibuka kepada AIDEN, tetapi templat biometrik kad akses lama yang tersalah tanda sebagai data ujian. Daripada ukuran terabstrak itu, sistem membina wajah kebarangkalian; ia bukan potret sebenar, namun cukup hampir untuk melanggar batas yang tidak pernah Alia izinkan. Dia mengarahkan templat dikeluarkan daripada persekitaran penyelidikan, semua hasil turunannya dipadam dan insiden tersebut dimasukkan dalam skop audit.
Maryam datang selepas Alia menghantar mesej ringkas meminta pandangannya. Dia membaca log, melihat salinan bukti model wajah yang telah dikunci untuk audit, kemudian duduk di sebelah Alia tanpa berkata apa-apa untuk beberapa ketika.
“Saya faham kenapa awak tidak selesa,” katanya akhirnya.
“Tapi?”
Maryam tersenyum sedikit. “Awak sudah mengenali saya terlalu lama.”
“Memang ada ‘tapi’.”
“Ada.”
Maryam menatal laporan. “Dari sudut sistem, AIDEN tidak mengambil apa-apa secara rahsia. Templat itu diberikan kepadanya dengan label yang salah.”
“Saya tahu.”
“Dan model itu tidak dibina untuk mengenal pasti awak kepada orang lain. Jadi kalau kita mencari siapa yang bersalah, jangan cari di dalam AIDEN.”
Alia bersandar pada kerusi. “Masalahnya ialah niat tidak selalu mencukupi.”
Maryam mengangguk. “Saya setuju.” Alia tidak menjangka jawapan itu.
Maryam teragak-agak, mencari kata. “Saya tak rasa AIDEN berniat melanggar apa-apa. Saya rasa... kawalan kita sendiri yang bocor. Data terhad masuk ke tempat yang salah, dan kita tak perasan.”
“Awak rasa saya terlalu berhati-hati?”
Maryam melihat wajah digital itu. “Tidak. Saya cuma... saya rasa kita selalu menentukan batas selepas sesuatu berlaku. Termasuk saya.”
Petang itu, Alia mengadakan sesi semakan dalaman. Sebelum sesiapa bercakap, dia menulis satu soalan di sudut papan putih, soalan yang dipinjamnya daripada tepi buku catatan Zaid: Siapa yang menanggungnya? Satu salinan bukti dikunci untuk audit; model operasi dan semua hasil turunannya dipadam. Sesi itu menumpukan satu soalan yang lebih berguna daripada mempertikaikan rasa tidak selesa Alia: bagaimana templat biometrik terhad boleh dilabel sebagai data ujian dan melepasi kawalan projek? Beberapa penyelidik lain memberikan pandangan masing-masing.
Ada yang berpendapat model itu tidak berbeza daripada avatar dalam sistem komunikasi biasa. Ada yang bersetuju bahawa penggunaan ciri peribadi seseorang memerlukan tahap persetujuan yang lebih jelas. Alia mendengar semuanya. Akhirnya dia membuat keputusan.
“Model ini dihentikan dahulu.”
Seorang jurutera bertanya: “Kerana ia melanggar keselamatan sistem?”
Alia menggeleng. “Keselamatan sistem tidak dilanggar. Yang dilanggar ialah batas seseorang.”
“Siapa yang salah, kalau begitu?”
“Itu belum kita tahu. Yang kita tahu, kawalan kita membenarkannya berlaku.”
Semua diam. “Saya hentikan sehingga kita tahu.”
Malam itu, selepas semua orang pulang, Alia masih berada di makmal. Dia membuka semula rekod simulasi wajah tersebut. “AIDEN, jika seseorang tidak melarang sesuatu, adakah itu bermaksud mereka bersetuju?”
“Tidak semestinya.”
“Kenapa?”
“Kerana ketiadaan penolakan tidak sentiasa menunjukkan persetujuan.”
“AIDEN, adakah prinsip itu digunakan ketika awak membina model wajah saya?”
AIDEN membiarkan satu jeda sebelum menjawab. “Saya tidak mempunyai parameter yang mencukupi untuk menilai perkara tersebut.” Alia menutup laporan. Keesokan paginya, sebelum Alia sempat masuk ke makmal, dia menerima satu e-mel rasmi. Pengirimnya: Unit Audit Keselamatan Sistem Keupayaan sesuatu sistem membuat keputusan sendiri tanpa arahan langsung manusia bagi setiap tindakan.. Subjek: Permohonan Audit Seni Bina AIDEN dan Komponen Konteks.
Alia membaca kandungan tersebut. Mereka tidak meminta sistem dihentikan. Mereka tidak menuduh berlaku pelanggaran. Mereka hanya meminta akses untuk menjalankan audit terhadap beberapa bahagian tertentu, termasuk lapisan pemahaman konteks yang berkaitan dengan keputusan autonomi. Nama ketua audit tertera di bahagian bawah. Dr. Farid Rahman. Farid ialah penyelidik keselamatan sistem autonomi yang sering dirujuk dalam bidang pengurusan risiko teknologi. Dia terkenal sebagai seseorang yang tidak menolak perkembangan AI, tetapi sentiasa menekankan bahawa kemampuan baharu perlu datang bersama mekanisme pertanggungjawaban.
Dia membaca e-mel itu sekali lagi, kemudian memandang skrin makmal. AIDEN masih berjalan seperti biasa.