Mozilla.ai, en startup på et oppdrag for å bygge pålitelig, åpen kildekode AI

Den nyopprettede oppstarten vil motta startfinansiering på 30 millioner dollar fra Mozilla Foundation,

På tampen av 25-årsjubileet, mozilla, den ideelle organisasjonen bak Firefox-nettleseren, lanserer en oppstart med fokus på kunstig intelligens.

Kalt Mozilla.ai, det nye selskapet er ikke på et oppdrag om å bygge hvilken som helst AI: dets oppgave er å bygge "pålitelig" og åpen kildekode AI, ifølge Mark Surman, Mozillas administrerende direktør og leder av Mozilla.ai.

Oppstarten har som mål å forene likesinnede som mener at AI-relatert utvikling bør være transparent, kontrollert og åpen.

mozilla.ai vil gi utviklere, forskere og produktskapere en egen plattform, atskilt fra store selskaper og utdanningsinstitusjoner, og vil tillate dem å i fellesskap bygge et uavhengig, desentralisert og pålitelig økosystem.

Når det gjelder utvikling, vil den første fasen fokusere på verktøy for å forbedre sikkerheten og åpenheten til generative maskinlæringsmodeller.

«Da jeg jobbet med Trusted AI i nesten fem år, følte jeg alltid en blanding av spenning og angst. Den siste måneden eller to med raske kunngjøringer av store AI-teknologier har ikke vært annerledes. En virkelig spennende ny teknologi er på vei til å dukke opp – nye verktøy som umiddelbart inspirerte kunstnere, grunnleggere … alle slags mennesker til å gjøre nye ting. Bekymringen kommer når du innser at knapt noen ser på rekkverket, sa han.

Surman sikter til bølgen av AI-modeller de siste månedene som, selv om de er imponerende i sine evner, har urovekkende implikasjoner i den virkelige verden. På tidspunktet for utgivelsen kunne OpenAIs tekstgenererende ChatGPT bli lurt til å skrive skadevare, identifisere sårbarheter i åpen kildekode og lage phishing-nettsteder som ser ut som nettsteder med høy trafikk.

Vi har jobbet med pålitelig AI på forskningssiden for allmenn interesse i omtrent fem år, med håp om at andre bransjeaktører med mer AI-erfaring vil forplikte seg til å bygge mer pålitelig teknologi. Det gjorde de ikke. Så vi bestemte oss i midten av fjoråret for at vi måtte gjøre det selv og finne likesinnede partnere til å gjøre det med oss.

Deretter satte vi ut for å finne noen med den rette blandingen av AI-erfaring i akademia og industri til å lede dette prosjektet, sa Surman. Finansiert av en innledende investering på 30 millioner dollar fra Mozilla Foundation, Mozillas moderorganisasjon, Mozilla. ai er et heleid datterselskap av Mozilla Foundation, sammen med Mozilla Corporation (organisasjonen som er ansvarlig for å utvikle Firefox) og Mozilla Ventures (Mozilla Foundations risikokapitalfond). Administrerende direktør er Moez Draief, som tidligere var sjefforsker ved Huaweis Noah's Ark AI-laboratorium og global sjefforsker ved konsulentselskapet Capgemini.

den første prioriteringen fra Mozilla.ai vil være å danne et team på omtrent 25 ingeniører, produktforskere og ledere å jobbe med pålitelige anbefalingssystemer og omfattende språkmodeller som f.eks OpenAI GPT-4. 

Men selskapets bredere ambisjon er å etablere et nettverk av partnerselskaper og forskningsgrupper, inkludert Mozilla Ventures-støttede startups og akademiske institusjoner, som deler dens visjon.

Den gode nyheten: Vi har møtt tusenvis av grunnleggere, ingeniører, forskere, designere, kunstnere og aktivister som tar denne tilnærmingen til AI. Smarte, dedikerte mennesker skaper åpen kildekode AI-teknologier, tester nye tilnærminger til revisjon og finner ut hvordan de kan bygge «tillit» inn i AI i den virkelige verden.

Den dårlige nyheten: Store teknologi- og skyselskaper, som har mest makt og innflytelse, gjør ikke det samme. I mellomtiden fortsetter disse selskapene å konsolidere sin kontroll over markedet.

Bunnlinjen: Noen begynner med å gjøre ting annerledes, men det viktigste arbeidet (og investeringen) blir fortsatt gjort på samme måte. Det ønsker vi å endre på.

Mozilla.ai vil bruke de neste månedene på å utvikle verktøy som for eksempel vil tillate brukere å verifisere kildene bak svarene som chatboter gir dem. Selskapet vil også se etter å bygge systemer som gir brukerne mer kontroll over AI-anbefalinger (nemlig algoritmene som driver YouTube, Twitter og TikTok-feeds).

Fuente: https://blog.mozilla.org/