Bos mesin pencari Google memperingatkan jebakan kecerdasan buatan di chatbots dalam sebuah wawancara surat kabar yang diterbitkan pada hari Sabtu, ketika perusahaan induk Google Alphabet berjuang untuk bersaing dengan aplikasi blockbuster ChatGPT.
Eksekutif terkemuka di Google mengatakan kepada sebuah surat kabar Jerman bahwa bentuk AI generatif saat ini, seperti ChatGPT, bisa jadi tidak dapat diandalkan dan memasuki keadaan yang seperti mimpi dan zonasi.
"Jenis kecerdasan buatan yang sedang kita bicarakan saat ini terkadang dapat menyebabkan sesuatu yang kita sebut halusinasi," kata Prabhakar Raghavan, wakil presiden senior di Google dan kepala Google Search, kepada Welt am Sonntag.
"Jenis kecerdasan buatan yang sedang kita bicarakan saat ini terkadang dapat menyebabkan sesuatu yang kita sebut halusinasi," kata Prabhakar Raghavan, wakil presiden senior di Google dan kepala Google Search, kepada surat kabar Jerman Welt am Sonntag.
"Ini kemudian mengekspresikan dirinya sedemikian rupa sehingga sebuah mesin memberikan jawaban yang meyakinkan tetapi sepenuhnya dibuat-buat," kata Raghavan dalam komentar yang diterbitkan dalam bahasa Jerman. Salah satu tugas mendasar, tambahnya, adalah menjaga ini seminimal mungkin.
Google berada di belakang setelah OpenAI, sebuah startup yang didukung Microsoft dengan sekitar $ 10 miliar, pada bulan November memperkenalkan ChatGPT, yang sejak saat itu memukau pengguna dengan tanggapannya yang sangat mirip manusia terhadap permintaan pengguna.
Alphabet Inc memperkenalkan Bard, chatbotnya sendiri, awal pekan ini, tetapi perangkat lunak tersebut membagikan informasi yang tidak akurat dalam video promosi dalam kesalahan yang merugikan nilai pasar perusahaan $100 miliar pada hari Rabu.
Alphabet, yang masih melakukan pengujian pengguna di Bard, belum mengindikasikan kapan aplikasi tersebut bisa go public.
"Kami jelas merasakan urgensinya, tapi kami juga merasakan tanggung jawab yang besar," kata Raghavan. "Kami tentu tidak ingin menyesatkan publik."
Memang, banyak pengguna ChatGPT, termasuk salah satu pendiri Apple Steve Wozniak, mengeluh bahwa AI sering salah.
Kesalahan dalam encoding dan decoding antara teks dan representasi dapat menyebabkan halusinasi kecerdasan buatan.
Ted Chiang on the “hallucinations” of ChatGPT: “if a compression algorithm is designed to reconstruct text after 99% of the original has been discarded, we should expect that significant portions of what it generates will be entirely fabricated...” https://t.co/7QP6zBgrd3
— Matt Bell (@mdbell79) February 9, 2023
Tidak jelas apakah Raghavan mereferensikan langkah Google sendiri ke AI generatif.
Pekan lalu, perusahaan mengumumkan sedang menguji chatbot bernama Bard Apprentice. Teknologi ini dibangun di atas teknologi LaMDA, sama dengan model bahasa besar OpenAI untuk ChatGPT.
Demonstrasi di Paris dianggap sebagai bencana PR, karena sebagian besar investor tidak berdaya.
Pengembang Google berada di bawah tekanan kuat sejak peluncuran ChatGPT OpenAI, yang telah menggemparkan dunia dan mengancam bisnis inti Google.
"Kami jelas merasakan urgensinya, tetapi kami juga merasakan tanggung jawab yang besar," kata Raghavan kepada surat kabar tersebut. "Kami tentu tidak ingin menyesatkan publik."
Kehebohan ChatGPT menyapu China saat perusahaan berebut opsi buatan sendiri
OpenAI yang didukung Microsoft ( MSFT ) telah membuat aplikasi ChatGPT populernya terlarang bagi pengguna di China, tetapi aplikasi tersebut menarik minat besar di negara tersebut, dengan perusahaan bergegas untuk mengintegrasikan teknologi ke dalam produk mereka dan meluncurkan solusi saingan.
Sementara penduduk di negara tersebut tidak dapat membuat akun OpenAI untuk mengakses chatbot bertenaga kecerdasan buatan (AI), jaringan pribadi virtual dan nomor telepon asing membantu beberapa orang untuk melewati pembatasan tersebut.
Pada saat yang sama, model OpenAI di balik program ChatGPT, yang dapat menulis esai, resep, dan kode komputer yang kompleks, relatif mudah diakses di China dan semakin banyak dimasukkan ke dalam aplikasi teknologi konsumen China dari jejaring sosial hingga belanja online.
Popularitas alat yang melonjak dengan cepat meningkatkan kesadaran di China tentang seberapa canggih AI AS dan, menurut analis, seberapa jauh di belakang perusahaan teknologi di ekonomi terbesar kedua dunia saat mereka berjuang untuk mengejar ketinggalan.
Popularitas alat yang melonjak dengan cepat meningkatkan kesadaran di China tentang seberapa canggih AI AS dan, menurut analis, seberapa jauh di belakang perusahaan teknologi di ekonomi terbesar kedua dunia saat mereka berjuang untuk mengejar ketinggalan.
"Ada kegembiraan besar seputar ChatGPT. Tidak seperti metaverse yang menghadapi kesulitan besar dalam menemukan aplikasi kehidupan nyata, ChatGPT tiba-tiba membantu kami mencapai interaksi manusia-komputer," kata Ding Daoshi, direktur konsultan internet Sootoo yang berbasis di Beijing. "Perubahan yang akan terjadi lebih cepat, lebih langsung, dan jauh lebih cepat."
OpenAI atau ChatGPT sendiri tidak diblokir oleh otoritas Cina tetapi OpenAI tidak mengizinkan pengguna di Cina daratan, Hong Kong, Iran, Rusia, dan sebagian Afrika untuk mendaftar.
OpenAI mengatakan kepada Reuters bahwa pihaknya sedang berupaya membuat layanannya tersedia lebih luas.
"Sementara kami ingin membuat teknologi kami tersedia di mana-mana, kondisi di negara tertentu membuat kami sulit atau tidak mungkin melakukannya dengan cara yang konsisten dengan misi kami," kata perusahaan yang berbasis di San Francisco itu dalam pernyataan email. "Saat ini kami sedang berupaya meningkatkan jumlah lokasi tempat kami dapat menyediakan akses yang aman dan bermanfaat ke alat kami."
Pada bulan Desember, Tencent Holdings ( TCTZF ) WeChat, aplikasi perpesanan terbesar di China, menutup beberapa program terkait ChatGPT yang telah muncul di jaringan, menurut laporan media lokal, tetapi program tersebut terus bermunculan.
Lusinan bot yang dipasangi teknologi ChatGPT telah muncul di WeChat, dengan para penghobi menggunakannya untuk membuat program atau akun otomatis yang dapat berinteraksi dengan pengguna. Setidaknya satu akun membebankan biaya kepada pengguna sebesar 9,99 yuan ($1,47) untuk mengajukan 20 pertanyaan.
Tencent ( TCTZF ) tidak menanggapi permintaan komentar dari Reuters.
ChatGPT mendukung interaksi bahasa Cina dan sangat mampu berbicara dalam bahasa Cina, yang telah membantu mendorong adopsi tidak resminya di negara tersebut.
Perusahaan China juga menggunakan alat proxy atau kemitraan yang ada dengan Microsoft ( MSFT ), yang menginvestasikan miliaran dolar dalam OpenAI-nya, untuk mengakses alat yang memungkinkan mereka menyematkan teknologi AI ke dalam produk mereka.
Proximai yang berbasis di Shenzhen pada bulan Desember memperkenalkan karakter virtual ke dalam aplikasi sosialnya yang mirip game 3D yang menggunakan teknologi dasar ChatGPT untuk berkomunikasi. Perusahaan perangkat lunak hiburan yang berbasis di Beijing Kunlun Tech berencana untuk menggabungkan ChatGPT di browser web Opera.
SleekFlow, startup yang didukung oleh Tiger Global di Hong Kong, mengatakan sedang mengintegrasikan AI ke dalam alat perpesanan hubungan pelanggannya. "Kami memiliki klien di seluruh dunia," kata Henson Tsai, pendiri SleekFlow. "Di antaranya, ChatGPT melakukan terjemahan yang sangat baik, terkadang lebih baik daripada solusi lain yang tersedia di pasar."
CENSORSHIP
Tes ChatGPT Reuters menunjukkan bahwa chatbot tidak menolak pertanyaan yang sensitif di China daratan. Diminta pendapatnya tentang Presiden China Xi Jinping, misalnya, ia menjawab tidak memiliki pendapat pribadi dan menyampaikan berbagai pandangan.
Tetapi beberapa bot proxy-nya di WeChat telah memasukkan istilah-istilah tersebut ke dalam daftar hitam, menurut pemeriksaan Reuters lainnya, sesuai dengan penyensoran berat China di dunia maya. Ketika ditanya pertanyaan yang sama tentang Xi di salah satu bot proxy ChatGPT, ia menjawab dengan mengatakan bahwa percakapan tersebut melanggar aturan.
Untuk mematuhi aturan China, pendiri Proximai, Will Duan, mengatakan platformnya akan memfilter informasi yang diberikan kepada pengguna selama interaksi mereka dengan ChatGPT.
Regulator China, yang tahun lalu memperkenalkan aturan untuk memperkuat tata kelola teknologi "deepfake", belum mengomentari ChatGPT, namun, media pemerintah minggu ini memperingatkan tentang risiko pasar saham di tengah hiruk pikuk saham konsep ChatGPT lokal.
Cyberspace Administration of China, regulator internet, tidak menanggapi permintaan komentar dari Reuters.
"Dengan peraturan yang dirilis tahun lalu, pemerintah China mengatakan: kami sudah melihat teknologi ini datang dan kami ingin menjadi yang terdepan," kata Rogier Creemers, asisten profesor di Universitas Leiden.
"Saya sepenuhnya berharap sebagian besar konten yang dihasilkan AI bersifat non-politis."
RIVAL CINA
Bergabung dengan buzz adalah beberapa raksasa teknologi terbesar di negara itu seperti Baidu ( BIDU ) dan Alibaba ( BABA ) yang memberikan pembaruan minggu ini tentang model AI yang sedang mereka kerjakan, mendorong bagian mereka untuk memperbesar.
Baidu ( BIDU ) mengatakan minggu ini akan menyelesaikan pengujian internal "Ernie Bot" pada bulan Maret, model AI besar yang telah dikerjakan oleh perusahaan pencari sejak 2019.
Pada hari Rabu, Alibaba ( BABA ) mengatakan bahwa lembaga penelitiannya Damo Academy juga sedang menguji alat bergaya ChatGPT.
Duan, yang perusahaannya telah menggunakan AI chatbot Baidu bernama Plato untuk pemrosesan bahasa alami, mengatakan bahwa ChatGPT setidaknya satu generasi lebih kuat daripada solusi NLP China saat ini, meskipun lebih lemah di beberapa area, seperti memahami konteks percakapan.
Baidu ( BIDU ) tidak membalas permintaan komentar dari Reuters.
Akses ke GPT-3 OpenAI, atau Transformer Pra-terlatih Generatif, pertama kali diluncurkan pada tahun 2020, pembaruan yang merupakan tulang punggung ChatGPT.
Duan mengatakan potensi risiko kepatuhan jangka panjang berarti perusahaan China kemungkinan besar akan mengganti ChatGPT dengan alternatif lokal, jika mereka dapat menyamai fungsionalitas produk yang dikembangkan AS.
“Jadi kami sebenarnya berharap ada solusi alternatif di China yang bisa langsung kita pakai…mungkin bisa lebih baik lagi penanganannya di China, dan juga bisa lebih patuh pada regulasi,” ujarnya.
No comments:
Post a Comment