Menelusuri Model Darktrace

Darktrace merupakan sebuah perusahaan yang mengembangkan kecerdasan buatan atau Artificial Intelligence untuk keamanan siber (Cyber AI) yang berpusat di Inggris, dan saat ini memiliki beberapa kantor cabang di kota-kota besar di negara lain.

Beberapa hari yang lalu Darktrace Japan melalui akun Twitter nya memposting foto iklan Darktrace yang ada di sebuah majalah:

Saya tidak memperhatikan keterangan di iklan itu, karena menggunakan bahasa Jepang; yang terperhatikan saat itu hanyalah: “perempuan tersenyum”, tulisan “DARKTRACE” dan “Cyber AI“.

Keesokan hari nya pada saat membaca majalah The Economist (edisi 10-16 Oktober 2020) ada iklan yang sama, namun dalam bahasa Inggris:

Source: The Economist (October 10th-16th 2020), Volume 437, Number 9215, Page 10

Malicious AI created her picture, yet she has never been seen by camera. It made her an online profile, yet she has never logged in. Malicious AI built her to attack you. Now it’s time for AI to fight back.

*) Darktrace advertisement on The Economist

Kali ini penasaran kian bertambah setelah membaca kalimat-kalimat pada iklan yang menjelaskan bahwa foto perempuan yang tersenyum itu (digunakan kata “she / her” / perempuan, bukan “he / him / his” / laki-laki) bukan lah orang yang ada di kehidupan nyata, melainkan dibuat oleh kecerdasan buatan yang disalahgunakan (Malicious AI).

Untuk menghilangkan rasa penasaran, saya coba mencari tahu jawaban (apakah benar foto perempuan itu dibuat menggunakan AI?) dengan menggunakan metoda OSINT (Open Source Intelligence) yang paling sederhana: Image Searching.

Saya ekstrak foto target yang ada pada iklan (diambil dari The Economist versi PDF):

Penyuntingan gambar / pengambilan foto target

Proses ekstrak foto nya cukup dengan ‘rotate‘ dan ‘crop‘ saja, resolusi foto sudah sangat baik.

Hasil ekstrak foto target

Kemudian saya cari foto target ini menggunakan tools: Google Images dengan parameter waktu dari tahun 2000 hingga 2015 (setelah dicoba: sebelum tahun 2000 tidak menghasilkan apa-apa).

Dari hasil pencarian sudah dapat dipastikan bahwa foto perempuan ini bukan hasil dari kecerdasan buatan, melainkan memang foto dari orang yang ada di kehidupan nyata.

Setidaknya sudah dari tahun 2008 foto ini digunakan untuk iklan yang berhubungan dengan kesehatan gigi. Banyak juga digunakan di promosi penjualan produk pemutih gigi.

Dari hasil pencarian lanjutan, pada 14 Agustus 2011 John Sommer meng-upload foto yang sama (dan beberapa foto pose lain dari orang yang sama) ke iStockPhoto:

Jadi “salah satu” (“one“) yang dimaksud dari penyataan “one of these people doesn’t exist” di iklan Darktrace ini seharusnya bukan ditujukan kepada foto yang perempuan, melainkan kepada foto yang laki-laki (menggunakan “he / his / him” / laki-laki, bukan “she / her” / perempuan). Sehingga kalimat yang tepat-nya menjadi:

” Malicious AI created his picture, yet he has never been seen by camera. It made him an online profile, yet he has never logged in. Malicious AI built him to attack you. Now it’s time for AI to fight back. “

Who am I ?

Kalau masih penasaran dengan foto ‘manusia’ hasil generate AI, bisa dilihat beberapa contoh-nya di sini: https://thispersondoesnotexist.com/

Bagaimana cara ‘membuat’-nya? Bisa dilihat di sini: https://github.com/NVlabs/stylegan2

[ danito – 20201015 ]

Leave a Reply

Your email address will not be published. Required fields are marked *