La startup acabada de formar rebrà el seu finançament inicial de 30 milions de dòlars de la Fundació Mozilla,
En vigílies del seu 25è aniversari, Mozilla, l'organització sense ànim de lucre darrere del navegador Firefox, està llançant una startup centrada en la intel·ligència artificial.
Trucada Mozilla.ai, la nova companyia no té la missió de construir qualsevol IA: té com a missió construir una IA de codi obert i «confiable», segons Mark Surman, president executiu de Mozilla i responsable de Mozilla.ai.
La startup pretén unir persones afins que creuen que els desenvolupaments relacionats amb la intel·ligència artificial han de ser transparents, controlats i oberts.
mozilla.ai proporcionarà als desenvolupadors, investigadors i creadors de productes una plataforma separada, separada de les grans corporacions i institucions educatives, i els permetrà construir conjuntament un ecosistema independent, descentralitzat i fiable.
En termes de desenvolupament, la primera fase se centrarà en eines per millorar la seguretat i la transparència dels models generatius daprenentatge automàtic.
“En treballar en una IA fiable durant gairebé cinc anys, sempre vaig sentir una barreja d'entusiasme i d'ansietat. El darrer mes o dos danuncis ràpids de grans tecnologies dIA no han estat diferents. Una nova tecnologia veritablement emocionant està en camí emergeixen – noves eines que immediatament van inspirar artistes, fundadors… tota mena de persones a fer coses noves. La preocupació ve quan t'adones que gairebé ningú no està mirant les baranes”, va dir.
Surman es refereix a l'onada de models d'IA en els darrers mesos que, si bé són impressionants en les seves capacitats, tenen implicacions inquietants al món real. En el moment del seu llançament, es podia enganyar el ChatGPT generador de text d'OpenAI perquè escrivís codi maliciós (malware), identifiqués vulnerabilitats en el codi font obert i creés llocs web de pesca (phishing) que semblen llocs d'alt trànsit.
Estem treballant en l'IA fiable al costat de la investigació d'interès públic durant aproximadament cinc anys, amb l'esperança que altres actors de la indústria amb més experiència a IA es comprometin a construir una tecnologia més fiable. Ells no ho van fer. Així que vam decidir a mitjans de l'any passat que ho havíem de fer nosaltres mateixos i trobar socis amb idees afins per fer-ho amb nosaltres.
Després ens vam proposar trobar algú amb la combinació adequada d'experiència a IA a l'acadèmia i la indústria per liderar aquest projecte”, va dir Surman. Finançat per una inversió inicial de $ 30 milions de la Fundació Mozilla, lorganització matriu de Mozilla, Mozilla. ai és una subsidiària de propietat total de la Fundació Mozilla, juntament amb Mozilla Corporation (l'organització responsable del desenvolupament del Firefox) i Mozilla Ventures (el fons de capital de risc de la Fundació Mozilla). El seu director executiu és Moez Draief, que anteriorment va ser científic en cap al laboratori d'IA Noah's Ark de Huawei i científic en cap global a la consultora Capgemini.
La prioritat inicial de Mozilla.ai serà formar un equip d'aproximadament 25 enginyers, científics i gerents de productes per treballar en sistemes de recomanació fiables i models de llenguatge extens com GPT-4 d'OpenAI.
Però l'ambició més àmplia de la companyia és establir una xarxa de companyies aliades i grups de recerca, incloses les noves empreses i institucions acadèmiques recolzades per Mozilla Ventures, que en comparteixen la visió.
La bona notícia: hem conegut milers de fundadors, enginyers, científics, dissenyadors, artistes i activistes que estan adoptant aquest enfocament de la IA. Persones intel·ligents i dedicades estan creant tecnologies de IA de codi obert, provant nous enfocaments per a l'auditoria i esbrinant com incorporar la «confiança» a la IA del món real.
La mala notícia: les grans empreses de tecnologia i del núvol, que tenen el poder i la influència més grans, no estan fent el mateix. Mentrestant, aquestes empreses continuen consolidant el control sobre el mercat.
En resum: algunes persones comencen a fer les coses de manera diferent, però la feina (i la inversió) més important se segueix fent de la mateixa manera. Volem canviar això.
Mozilla.ai passarà els propers mesos desenvolupant eines que, per exemple, permetran als usuaris verificar les fonts darrere de les respostes que els donen els chatbots. La companyia també cercarà crear sistemes que brindin als usuaris més control sobre les recomanacions d'IA (és a dir, els algorismes que impulsen els feeds de YouTube, Twitter i TikTok).
font: https://blog.mozilla.org/
Enhorabona per aquest gran projecte.
Seguint en la línia que aporti seguretat a la societat, ells sols es convenceran de quin producte li ofereix més confiança, d'aquesta manera no caldrà canviar res, sinó millorar cada cop més i oferir un bon producte als usuaris. Els altres, per tant, aniran perdent credibilitat.
una salutació
Manuel Mesa