Mozilla.ai, sebuah permulaan dalam misi untuk membina AI sumber terbuka yang boleh dipercayai

Permulaan yang baru ditubuhkan itu akan menerima pembiayaan benihnya sebanyak $30 juta daripada Yayasan Mozilla,

Menjelang ulang tahunnya yang ke-25, Mozilla, organisasi bukan untung di sebalik pelayar Firefox, sedang melancarkan permulaan yang tertumpu pada kecerdasan buatan.

Dipanggil Mozilla.ai, syarikat baharu itu bukan dalam misi untuk membina mana-mana AI: misinya adalah untuk membina AI yang "dipercayai" dan sumber terbuka, menurut Mark Surman, Ketua Pegawai Eksekutif Mozilla dan ketua Mozilla.ai.

Permulaan ini bertujuan untuk menyatukan orang yang berfikiran sama yang percaya bahawa perkembangan berkaitan AI harus telus, terkawal dan terbuka.

mozilla.ai akan menyediakan pemaju, penyelidik dan pencipta produk dengan platform yang berasingan, dipisahkan daripada syarikat besar dan institusi pendidikan, dan akan membolehkan mereka bersama-sama membina ekosistem yang bebas, terpencar dan dipercayai.

Dari segi pembangunan, fasa pertama akan memberi tumpuan kepada alatan untuk meningkatkan keselamatan dan ketelusan model pembelajaran mesin generatif.

"Mengusahakan AI Dipercayai selama hampir lima tahun, saya sentiasa merasakan gabungan keseronokan dan kebimbangan. Satu atau dua bulan terakhir pengumuman pantas teknologi AI besar tidak berbeza. Teknologi baharu yang benar-benar menarik sedang dalam perjalanan untuk muncul - alat baharu yang segera memberi inspirasi kepada artis, pengasas... semua jenis orang untuk melakukan perkara baharu. Kebimbangan timbul apabila anda menyedari bahawa hampir tidak ada orang yang melihat ke arah pagar,” katanya.

Surman merujuk kepada lonjakan model AI dalam beberapa bulan kebelakangan ini yang, walaupun mengagumkan dalam keupayaan mereka, mempunyai implikasi dunia nyata yang mengganggu. Pada masa ia dikeluarkan, ChatGPT penjana teks OpenAI boleh ditipu untuk menulis perisian hasad, mengenal pasti kelemahan dalam kod sumber terbuka dan mencipta tapak web pancingan data yang kelihatan seperti tapak trafik tinggi.

Kami telah mengusahakan AI yang boleh dipercayai di bahagian penyelidikan kepentingan awam selama kira-kira lima tahun, dengan harapan pemain industri lain yang mempunyai lebih banyak pengalaman AI akan komited untuk membina lebih banyak teknologi yang boleh dipercayai. Mereka tidak. Oleh itu, kami memutuskan pada pertengahan tahun lepas bahawa kami perlu melakukannya sendiri dan mencari rakan kongsi yang berfikiran sama untuk melakukannya bersama kami.

Kami kemudiannya mencari seseorang yang mempunyai gabungan pengalaman AI yang betul dalam akademik dan industri untuk menerajui projek ini,” kata Surman. Dibiayai oleh pelaburan awal $30 juta daripada Yayasan Mozilla, organisasi induk Mozilla, Mozilla. ai ialah anak syarikat milik penuh Yayasan Mozilla, bersama Mozilla Corporation (organisasi yang bertanggungjawab membangunkan Firefox) dan Mozilla Ventures (dana modal teroka Yayasan Mozilla). Ketua eksekutifnya ialah Moez Draief, yang sebelum ini merupakan ketua saintis di makmal AI Noah's Ark AI dan ketua saintis global di perundingan Capgemini.

keutamaan awal daripada Mozilla.ai akan membentuk satu pasukan yang terdiri daripada kira-kira 25 jurutera, saintis produk dan pengurus untuk mengusahakan sistem pengesyor yang boleh dipercayai dan model bahasa yang meluas seperti OpenAI GPT-4. 

Tetapi cita-cita syarikat yang lebih luas adalah untuk menubuhkan rangkaian syarikat rakan kongsi dan kumpulan penyelidikan, termasuk syarikat permulaan dan institusi akademik yang disokong Mozilla Ventures, yang berkongsi visinya.

Berita baik: Kami telah bertemu dengan ribuan pengasas, jurutera, saintis, pereka bentuk, artis dan aktivis yang menggunakan pendekatan ini kepada AI. Orang yang bijak dan berdedikasi mencipta teknologi AI sumber terbuka, menguji pendekatan baharu untuk pengauditan dan memikirkan cara untuk membenamkan "kepercayaan" ke dalam AI dunia sebenar.

Berita buruk: Syarikat teknologi besar dan awan, yang mempunyai kuasa dan pengaruh paling besar, tidak melakukan perkara yang sama. Sementara itu, syarikat-syarikat ini terus mengukuhkan kawalan mereka ke atas pasaran.

Intinya: Sesetengah orang mula melakukan perkara secara berbeza, tetapi kerja yang paling penting (dan pelaburan) masih dilakukan dengan cara yang sama. Kami mahu mengubahnya.

Mozilla.ai akan menghabiskan beberapa bulan akan datang membangunkan alatan yang, sebagai contoh, akan membolehkan pengguna mengesahkan sumber di sebalik jawapan yang diberikan oleh chatbots kepada mereka. Syarikat itu juga akan mencari untuk membina sistem yang memberi pengguna lebih kawalan ke atas pengesyoran AI (iaitu, algoritma yang menguatkan suapan YouTube, Twitter dan TikTok).

Fuente: https://blog.mozilla.org/