Mozilla.ai, startup s posláním vybudovat důvěryhodnou, open source AI

Nově vzniklý startup obdrží počáteční financování ve výši 30 milionů dolarů od Mozilla Foundation,

V předvečer svého 25. výročí mozilla, nezisková organizace stojící za prohlížečem Firefox, rozjíždí startup zaměřený na umělou inteligenci.

s názvem Mozilla.ai, nová společnost si neklade za cíl vytvořit jen tak nějakou AI: jejím posláním je vybudovat „důvěryhodnou“ a open source AI, podle Marka Surmana, CEO Mozilly a šéfa Mozilla.ai.

Startup si klade za cíl sjednotit stejně smýšlející lidi, kteří věří, že vývoj související s umělou inteligencí by měl být transparentní, kontrolovaný a otevřený.

mozilla.ai poskytne vývojářům, výzkumníkům a tvůrcům produktů samostatnou platformu, oddělené od velkých korporací a vzdělávacích institucí, a umožní jim společně budovat nezávislý, decentralizovaný a důvěryhodný ekosystém.

Z hlediska vývoje se první fáze zaměří na nástroje pro zlepšení bezpečnosti a transparentnosti modelů generativního strojového učení.

„Při práci na Trusted AI téměř pět let jsem vždy cítil směs vzrušení a úzkosti. Poslední měsíc nebo dva rychlých oznámení velkých technologií umělé inteligence se neliší. Objevuje se skutečně vzrušující nová technologie – nové nástroje, které okamžitě inspirovaly umělce, zakladatele... všechny druhy lidí k novým věcem. Obavy nastanou, když si uvědomíte, že se na zábradlí téměř nikdo nedívá,“ řekl.

Surman se odvolává na nárůst modelů umělé inteligence v posledních měsících, které, přestože jsou svými schopnostmi působivé, mají znepokojivé důsledky v reálném světě. V době svého vydání mohl být ChatGPT OpenAI generující text oklamán, aby napsal malware, identifikoval zranitelnosti v otevřeném zdrojovém kódu a vytvořil phishingové weby, které vypadají jako stránky s vysokou návštěvností.

Na důvěryhodné AI na straně výzkumu veřejného zájmu pracujeme asi pět let s nadějí, že ostatní hráči v oboru s většími zkušenostmi s AI se zavážou k budování důvěryhodnější technologie. Oni ne. A tak jsme se v polovině loňského roku rozhodli, že to musíme udělat sami a najít na to s námi stejně smýšlející partnery.

Poté jsme se rozhodli najít někoho se správnou kombinací zkušeností s umělou inteligencí v akademické sféře a průmyslu, který by vedl tento projekt,“ řekl Surman. Financováno počáteční investicí 30 milionů dolarů od Mozilla Foundation, mateřské organizace Mozilly, Mozilla. ai je stoprocentní dceřinou společností Mozilla Foundation spolu s Mozilla Corporation (organizace odpovědná za vývoj Firefoxu) a Mozilla Ventures (fond rizikového kapitálu Mozilla Foundation). Jejím generálním ředitelem je Moez Draief, který byl dříve hlavním vědcem v laboratoři Huawei Noah's Ark AI a globálním vedoucím vědce v poradenské společnosti Capgemini.

počáteční prioritu z Mozilla.ai vytvoří tým přibližně 25 inženýrů, produktoví vědci a manažeři pracovat na spolehlivých doporučovacích systémech a rozsáhlých jazykových modelech jako např OpenAI GPT-4. 

Ale širší ambicí společnosti je vytvořit síť partnerských společností a výzkumných skupin, včetně startupů a akademických institucí podporovaných Mozilla Ventures, které sdílejí její vizi.

Dobrá zpráva: Setkali jsme se s tisíci zakladatelů, inženýrů, vědců, designérů, umělců a aktivistů, kteří tento přístup k AI využívají. Chytří, oddaní lidé vytvářejí technologie umělé inteligence s otevřeným zdrojovým kódem, testují nové přístupy k auditování a zjišťují, jak začlenit „důvěru“ do umělé inteligence v reálném světě.

Špatná zpráva: Velké technologické a cloudové společnosti, které mají největší moc a vliv, nedělají totéž. Mezitím tyto společnosti pokračují v upevňování své kontroly nad trhem.

Sečteno a podtrženo: Někteří lidé začnou dělat věci jinak, ale ta nejdůležitější práce (a investice) je stále stejná. Chceme to změnit.

Mozilla.ai stráví několik příštích měsíců vývojem nástrojů což například uživatelům umožní ověřit zdroje odpovědí, které jim chatboti poskytují. Společnost se také bude snažit vytvořit systémy, které uživatelům poskytnou větší kontrolu nad doporučeními AI (jmenovitě algoritmy, které pohánějí kanály YouTube, Twitter a TikTok).

zdroj: https://blog.mozilla.org/