transport

Program AI membingungkan peneliti — RT Games & Culture

Para peneliti dibuat bingung setelah program terbaru oleh OpenAI, pengembang sistem kecerdasan buatan, tampaknya telah menciptakan bahasa yang hanya dapat dipahami olehnya.

DALL-E2 adalah generator teks-ke-gambar belajar mandiri yang diluncurkan pada Januari 2022, fungsi utamanya adalah menggunakan petunjuk teks yang disediakan oleh pengguna dan menghasilkan gambar untuk mencocokkan kata-kata bersama dengan subtitle.

Namun, menurut mahasiswa PhD Ilmu Komputer Giannis Daras, salah satu keterbatasan DALL-E2 adalah kemampuan menghasilkan teks karena hanya mampu mengembalikan kata-kata yang tidak masuk akal saat diminta.

Dalam sebuah makalah yang diterbitkan di arsip sains, Arxiv, awal bulan ini, Daras memberikan contoh batasan ini, yang menyatakan bahwa memberi makan program dengan cepat “dua petani berbicara tentang sayuran, dengan teks” mengembalikan gambar yang menampilkan dua petani berbicara satu sama lain sambil memegang beberapa sayuran di tangan mereka, tetapi teks yang muncul dalam gambar tampaknya benar-benar omong kosong.

Tetapi para peneliti sekarang telah menyadari bahwa mungkin ada lebih banyak lagi kata-kata program yang tampaknya tidak dapat dipahami. “Kami menemukan bahwa keluaran teks yang dihasilkan ini tidak acak, melainkan mengungkapkan kosakata tersembunyi yang tampaknya dikembangkan oleh model secara internal,” tulis Daras.

Dia juga memberikan contoh lain: meminta program untuk memproduksi “gambar kata pesawat” akan sering mengarah pada gambar yang dihasilkan yang menggambarkan teks omong kosong. Namun, memasukkan teks itu kembali ke AI sering kali menghasilkan gambar pesawat terbang.

Hipotesis Daras adalah bahwa AI tampaknya telah mengembangkan kosakatanya sendiri dan memberi makna pada kata-kata tertentu yang dihasilkannya sendiri, seperti dalam kasus para petani, yang berbicara tentang sayuran dan burung.

Tetapi meskipun mungkin mengesankan, Daras tampaknya tidak terlalu senang dengan gagasan itu, mengatakan bahwa jika dia benar tentang kemampuan AI untuk menghasilkan bahasanya sendiri, itu dapat menimbulkan tantangan keamanan yang serius bagi generator teks-ke-gambar. .

“Masalah keamanan pertama berkaitan dengan penggunaan perintah omong kosong ini sebagai serangan permusuhan pintu belakang atau cara untuk menghindari filter,” tulisnya di kertasnya. “Saat ini, sistem Pemrosesan Bahasa Alami memfilter permintaan teks yang melanggar aturan kebijakan dan permintaan omong kosong dapat digunakan untuk melewati filter ini.”

“Lebih penting lagi, permintaan tidak masuk akal yang secara konsisten menghasilkan gambar menantang kepercayaan kami pada model generatif besar ini,” dia menambahkan.

Namun, makalah Daras belum ditinjau oleh rekan sejawat dan beberapa peneliti mempertanyakan temuannya, dengan satu menyatakan bahwa AI tampaknya tidak selalu bekerja dengan cara yang dijelaskan.

Analis Riset Benjamin Hilton mengatakan dia meminta generator untuk menunjukkan dua paus berbicara tentang makanan, dengan teks. Pada awalnya, DALL-E2 gagal mengembalikan teks yang dapat diuraikan, jadi peneliti terus menekan hingga akhirnya berhasil.

Hilton menyatakan bahwa “’Evve waeles’ adalah omong kosong, atau korupsi dari kata ‘paus’. Giannis beruntung ketika pausnya berkata ‘Wa ch zod rea’ dan itu menghasilkan gambar makanan.” Dia menambahkan bahwa beberapa frasa, seperti “render 3D” sering memberikan hasil yang sama sekali berbeda, menunjukkan bahwa mereka tidak berarti hal yang sama persis.




Namun demikian, Hilton mengakui bahwa tinjauan sejawat yang tepat dari makalah Daras dapat mengungkapkan lebih banyak dan bersikeras bahwa masih ada sesuatu untuk klaimnya, sebagai ungkapan omong kosong. “Apoploe vesrreaitais” secara konsisten mengembalikan gambar burung.

DALL-E2 bukanlah AI pertama yang menunjukkan tanda-tanda perkembangan suatu bahasa, sebelumnya Google Translate AI, yang menggunakan jaringan saraf untuk menerjemahkan antara beberapa bahasa paling populer, tampaknya juga telah menciptakan kosakata buatan sendiri yang digunakan untuk menerjemahkan. antara bahasa yang tidak dilatih secara eksplisit.

AI Facebook juga tampaknya telah mengembangkan bentuk komunikasi internal, setelah dua chatbots mulai berbicara dengan cara yang sama sekali tidak dapat dipahami oleh manusia. Faktanya, itu berkembang sangat cepat sehingga para peneliti memutuskan untuk mencabutnya sebelum dapat berkembang lebih jauh.

Pemrogram Facebook bersikeras bahwa mereka ingin bot AI berbicara dalam bahasa Inggris sehingga pengguna lain dapat memahaminya dan mencatat bahwa manusia tidak akan pernah bisa mengikuti evolusi bahasa yang dihasilkan AI.

Anda dapat membagikan cerita ini di media sosial:

Sesudah itu sebaiknya teman akrab togel membandingkan information bersama dengan situs lainnya sehingga meraih no togel yang jitu. Data lengkap pengeluaran.hk.2021 . Data keluaran sdy adalah sebuah rekap hasil togel berdasarkan kurun pas tertentu. Keluaran sydney hari ini result sydney pengeluaran togel sydney tercepat. Untuk menghimpun information keluaran sdy, togeler terutama dahulu sebaiknya mempelajari keluaran togel dari web site togel terpercaya.