Mozilla.ai, een startup met een missie om betrouwbare, open source AI te bouwen

De nieuw gevormde startup ontvangt zijn startkapitaal van $ 30 miljoen van de Mozilla Foundation,

Aan de vooravond van het 25-jarig bestaan, Mozilla, de non-profitorganisatie achter de Firefox-browser, lanceert een startup gericht op kunstmatige intelligentie.

Genaamd Mozilla.ai, het nieuwe bedrijf heeft niet de missie om zomaar een AI te bouwen: het is zijn missie om "betrouwbare" en open source AI te bouwen, volgens Mark Surman, Mozilla's CEO en hoofd van Mozilla.ai.

De startup wil gelijkgestemde mensen verenigen die vinden dat AI-gerelateerde ontwikkelingen transparant, gecontroleerd en open moeten zijn.

mozilla.ai biedt ontwikkelaars, onderzoekers en productmakers een apart platform, gescheiden van grote bedrijven en onderwijsinstellingen, en stelt hen in staat om gezamenlijk een onafhankelijk, gedecentraliseerd en vertrouwd ecosysteem op te bouwen.

Wat de ontwikkeling betreft, zal de eerste fase zich richten op tools om de veiligheid en transparantie van generatieve machine learning-modellen te verbeteren.

“Bijna vijf jaar aan Trusted AI gewerkt, voelde ik altijd een mix van opwinding en angst. De afgelopen twee maanden van snelle aankondigingen van grote AI-technologieën waren niet anders. Er komt een werkelijk opwindende nieuwe technologie aan – nieuwe tools die onmiddellijk kunstenaars, oprichters… allerlei soorten mensen inspireerden om nieuwe dingen te doen. De zorg komt wanneer je je realiseert dat bijna niemand naar de relingen kijkt”, zei hij.

Surman verwijst naar de golf van AI-modellen in de afgelopen maanden die, hoewel ze indrukwekkend zijn in hun mogelijkheden, verontrustende implicaties voor de echte wereld hebben. Ten tijde van de release kon de tekstgenererende ChatGPT van OpenAI worden misleid om malware te schrijven, kwetsbaarheden in open source-code te identificeren en phishing-websites te maken die eruitzien als sites met veel verkeer.

We werken al ongeveer vijf jaar aan betrouwbare AI op het gebied van onderzoek van algemeen belang, in de hoop dat andere spelers in de sector met meer AI-ervaring zich zullen inzetten voor het bouwen van betrouwbaardere technologie. Dat deden ze niet. Dus besloten we halverwege vorig jaar dat we het zelf moesten doen en gelijkgestemde partners moesten zoeken om het samen met ons te doen.

Vervolgens gingen we op zoek naar iemand met de juiste mix van AI-ervaring in de academische wereld en de industrie om dit project te leiden”, aldus Surman. Gefinancierd door een initiële investering van $30 miljoen van de Mozilla Foundation, Mozilla's moederorganisatie, Mozilla. ai is een volledige dochteronderneming van de Mozilla Foundation, samen met Mozilla Corporation (de organisatie die verantwoordelijk is voor de ontwikkeling van Firefox) en Mozilla Ventures (het durfkapitaalfonds van de Mozilla Foundation). De CEO is Moez Draief, die voorheen hoofdwetenschapper was bij Huawei's Noah's Ark AI-lab en wereldwijd hoofdwetenschapper bij adviesbureau Capgemini.

de eerste prioriteit van Mozilla.ai zal zijn om een ​​team van ongeveer 25 ingenieurs te vormen, productwetenschappers en -managers werken aan betrouwbare aanbevelingssystemen en uitgebreide taalmodellen zoals OpenAI GPT-4. 

Maar de bredere ambitie van het bedrijf is om een ​​netwerk op te zetten van partnerbedrijven en onderzoeksgroepen, waaronder door Mozilla Ventures gesteunde startups en academische instellingen, die zijn visie delen.

Het goede nieuws: we hebben duizenden oprichters, ingenieurs, wetenschappers, ontwerpers, kunstenaars en activisten ontmoet die AI op deze manier benaderen. Slimme, toegewijde mensen creëren open-source AI-technologieën, testen nieuwe benaderingen van auditing en zoeken uit hoe ze "vertrouwen" kunnen integreren in real-world AI.

Het slechte nieuws: grote technologie- en cloudbedrijven, die de meeste macht en invloed hebben, doen niet hetzelfde. Ondertussen blijven deze bedrijven hun controle over de markt consolideren.

Kort gezegd: sommige mensen beginnen dingen anders te doen, maar het belangrijkste werk (en investering) wordt nog steeds hetzelfde gedaan. Daar willen we verandering in brengen.

Mozilla.ai zal de komende maanden tools ontwikkelen waarmee gebruikers bijvoorbeeld de bronnen kunnen verifiëren achter de antwoorden die chatbots hen geven. Het bedrijf zal ook proberen systemen te bouwen die gebruikers meer controle geven over AI-aanbevelingen (namelijk de algoritmen die YouTube-, Twitter- en TikTok-feeds aandrijven).

bron: https://blog.mozilla.org/