Mozilla.ai, un startup cu misiunea de a construi AI de încredere, open source

Startup-ul nou înființat va primi o finanțare de 30 de milioane de dolari de la Fundația Mozilla,

În ajunul împlinirii a 25 de ani, mozilla, organizația non-profit din spatele browserului Firefox, lansează un startup axat pe inteligență artificială.

Numit Mozilla.ai, noua companie nu are misiunea de a construi orice AI: misiunea sa este de a construi AI „de încredere” și open source, conform lui Mark Surman, CEO Mozilla și șeful Mozilla.ai.

Startup-ul își propune să unească oameni care cred că dezvoltările legate de inteligența artificială ar trebui să fie transparente, controlate și deschise.

mozilla.ai va oferi dezvoltatorilor, cercetătorilor și creatorilor de produse o platformă separată, separat de marile corporații și instituții de învățământ și le va permite să construiască împreună un ecosistem independent, descentralizat și de încredere.

În ceea ce privește dezvoltarea, prima fază se va concentra pe instrumente de îmbunătățire a securității și transparenței modelelor generative de învățare automată.

„Lucrând la Trusted AI aproape cinci ani, am simțit întotdeauna un amestec de entuziasm și anxietate. Ultima lună sau două de anunțuri rapide ale marilor tehnologii AI nu au fost diferite. O nouă tehnologie cu adevărat interesantă este pe cale să apară – noi instrumente care au inspirat imediat artiști, fondatori... tot felul de oameni să facă lucruri noi. Îngrijorarea vine când îți dai seama că aproape nimeni nu se uită la balustrade”, a spus el.

Surman se referă la creșterea numărului de modele AI din ultimele luni, care, deși sunt impresionante în capacitățile lor, au implicații tulburătoare în lumea reală. La momentul lansării sale, ChatGPT generator de text al OpenAI putea fi păcălit să scrie malware, să identifice vulnerabilități în codul open source și să creeze site-uri web de phishing care arată ca site-uri cu trafic ridicat.

Lucrăm la AI de încredere în domeniul cercetării de interes public de aproximativ cinci ani, cu speranța că alți jucători din industrie cu mai multă experiență în IA se vor angaja să construiască o tehnologie mai de încredere. Nu au făcut-o. Așa că ne-am hotărât la jumătatea anului trecut că trebuie să o facem singuri și să găsim parteneri care să-și apropie gândurile care să o facă cu noi.

Apoi ne-am propus să găsim pe cineva cu combinația potrivită de experiență AI în mediul academic și industrie, care să conducă acest proiect”, a spus Surman. Finanțat printr-o investiție inițială de 30 de milioane de dolari din partea Fundației Mozilla, organizația-mamă a Mozilla, Mozilla. ai este o subsidiară deținută în totalitate a Fundației Mozilla, împreună cu Mozilla Corporation (organizația responsabilă pentru dezvoltarea Firefox) și Mozilla Ventures (fondul de capital de risc al Fundației Mozilla). Directorul său executiv este Moez Draief, care a fost anterior om de știință șef la laboratorul Huawei Noah's Ark AI și om de știință global la firma de consultanță Capgemini.

Prioritatea inițială de la Mozilla.ai va fi formarea unei echipe de aproximativ 25 de ingineri, oameni de știință și manageri de produse să lucreze pe sisteme de recomandare fiabile și modele de limbaj extinse, cum ar fi OpenAI GPT-4. 

Dar ambiția mai largă a companiei este de a stabili o rețea de companii partenere și grupuri de cercetare, inclusiv startup-uri și instituții academice susținute de Mozilla Ventures, care împărtășesc viziunea sa.

Vestea bună: am întâlnit mii de fondatori, ingineri, oameni de știință, designeri, artiști și activiști care adoptă această abordare a AI. Oameni inteligenți și dedicați creează tehnologii open-source AI, testează noi abordări ale auditului și descoperă cum să încorporeze „încrederea” în IA din lumea reală.

Vestea proastă: marile companii de tehnologie și cloud, care au cea mai mare putere și influență, nu fac același lucru. Între timp, aceste companii continuă să-și consolideze controlul asupra pieței.

Concluzia: Unii oameni încep să facă lucrurile diferit, dar cea mai importantă muncă (și investiția) se face în continuare la fel. Vrem să schimbăm asta.

Mozilla.ai va petrece următoarele câteva luni dezvoltând instrumente care, de exemplu, va permite utilizatorilor să verifice sursele din spatele răspunsurilor pe care le oferă chatboții. De asemenea, compania va căuta să construiască sisteme care să ofere utilizatorilor mai mult control asupra recomandărilor AI (și anume, algoritmii care alimentează feedurile YouTube, Twitter și TikTok).

Fuente: https://blog.mozilla.org/