AI Memiliki Bahasa Rahasia Sendiri
Artificial Intelligence (AI) Atau AI Memiliki Bahasa Rahasia Sendiri generasi baru dapat menghasilkan gambar “kreatif” sesuai permintaan berdasarkan perintah teks. Sistem seperti Imagen, MidJourney, dan DALL-E 2 mulai mengubah cara konten kreatif dibuat dengan implikasi untuk hak cipta dan kekayaan intelektual.
Walaupun keluaran dari model-model ini umumnya menarik perhatian, sulit untuk mengetahui secara pasti cara mereka menghasilkan hasilnya. Baru-baru ini, para peneliti di Amerika Serikat membuat klaim menarik bahwa model DALL-E 2 mungkin telah menemukan bahasa rahasianya sendiri untuk berbicara tentang banyak objek.
Dengan meminta DALL-E 2 untuk membuat gambar yang berisi teks keterangan dan kemudian memasukkan teks (dengan gaya gibberish atau cara bicara merepet) yang dihasilkan kembali ke sistem, para peneliti menyimpulkan bahwa DALL-E 2 menganggap Vicootes berarti “sayuran,” sedangkan Wa ch zod rea mengacu pada “makhluk laut yang mungkin dimakan paus.”
Klaim-klaim ini memang menarik, dan jika benar, dapat memiliki implikasi keamanan dan interpretasi yang penting untuk model AI besar semacam ini. Jadi, apa sebenarnya yang terjadi?
Apakah DALL-E 2 memiliki bahasa rahasia?
DALL-E 2 mungkin tidak memiliki “bahasa rahasia.” Mungkin lebih akurat untuk mengatakan bahwa DALL-E 2 memiliki kosa kata sendiri. Meskipun demikian, kita tidak dapat mengetahui dengan pasti.
Pertama-tama, sangat sulit untuk memverifikasi klaim apapun tentang DALL-E 2 dan model AI besar lainnya pada tahap ini karena hanya ada sedikit peneliti dan praktisi kreatif yang memiliki akses ke sana. Setiap gambar yang dibagikan secara publik (di Twitter misalnya) sebaiknya tidak sepenuhnya dipercaya karena gambar tersebut telah diseleksi oleh manusia dari antara banyak gambar keluaran yang dihasilkan oleh AI.
Bahkan orang-orang yang memiliki akses hanya dapat menggunakan model ini secara terbatas. Misalnya, pengguna DALL-E 2 dapat membuat atau memodifikasi gambar, tetapi tidak (belum) dapat berinteraksi dengan sistem AI lebih dalam, misalnya dengan memodifikasi kode di balik layar. Ini berarti “metode AI yang dapat dijelaskan” untuk memahami cara kerja sistem ini tidak dapat diterapkan. Selain itu, menyelidiki perilaku mereka secara sistematis merupakan sebuah tantangan tersendiri.
Lalu apa yang terjadi?
Satu kemungkinan adalah frasa “gibberish” (cara bicara merepet) terkait dengan kata-kata dari bahasa non-Inggris. Misalnya, Apoploe, yang tampaknya membuat gambar burung, mirip dengan bahasa Latin Apodidae, yang adalah nama binomial dari keluarga spesies burung.
Ini merupakan penjelasan yang cukup masuk akal. Misalnya, DALL-E 2 dilatih tentang berbagai macam data yang diambil dari internet yang mencakup banyak kata non-Inggris.
Hal serupa pernah terjadi sebelumnya: model AI bahasa alami yang besar secara kebetulan belajar menulis kode komputer tanpa pelatihan yang disengaja.
Source : https://theconversation.com/
