Novovytvorený startup dostane počiatočné financovanie vo výške 30 miliónov dolárov od Mozilla Foundation,
V predvečer svojho 25. výročia Mozilla, nezisková organizácia stojaca za prehliadačom Firefox, rozbieha startup zameraný na umelú inteligenciu.
s názvom Mozilla.ai, nová spoločnosť si nekladie za cieľ vybudovať len tak hocijakú AI: jej poslaním je podľa Marka Surmana, CEO Mozilla a šéfa Mozilla.ai, vybudovať „dôveryhodnú“ a open source AI.
Cieľom startupu je spojiť podobne zmýšľajúcich ľudí, ktorí veria, že vývoj súvisiaci s AI by mal byť transparentný, kontrolovaný a otvorený.
mozilla.ai poskytne vývojárom, výskumníkom a tvorcom produktov samostatnú platformu, oddelené od veľkých korporácií a vzdelávacích inštitúcií, a umožní im spoločne budovať nezávislý, decentralizovaný a dôveryhodný ekosystém.
Z hľadiska vývoja sa prvá fáza zameria na nástroje na zlepšenie bezpečnosti a transparentnosti modelov generatívneho strojového učenia.
„Keď som na Trusted AI pracoval takmer päť rokov, vždy som cítil zmes vzrušenia a úzkosti. Posledný mesiac alebo dva rýchle oznámenia veľkých technológií AI neboli iné. Objavuje sa skutočne vzrušujúca nová technológia – nové nástroje, ktoré okamžite inšpirovali umelcov, zakladateľov... všetkých druhov ľudí k novým veciam. Obavy nastanú, keď si uvedomíte, že na zábradlie sa takmer nikto nepozerá,“ povedal.
Surman hovorí o náraste modelov AI v posledných mesiacoch, ktoré, hoci sú pôsobivé svojimi schopnosťami, majú znepokojujúce dôsledky v reálnom svete. V čase svojho vydania bolo možné ChatGPT na generovanie textu OpenAI oklamať, aby napísal malvér, identifikoval zraniteľné miesta v otvorenom zdrojovom kóde a vytvoril phishingové webové stránky, ktoré vyzerajú ako stránky s vysokou návštevnosťou.
Na dôveryhodnej AI na strane výskumu verejného záujmu pracujeme približne päť rokov s nádejou, že ostatní hráči v odvetví s väčšími skúsenosťami s AI sa zaviažu k budovaniu dôveryhodnejšej technológie. Oni nie. A tak sme sa v polovici minulého roka rozhodli, že to musíme urobiť sami a nájsť si na to rovnako zmýšľajúcich partnerov, ktorí to s nami urobia.
Potom sme sa rozhodli nájsť niekoho so správnou kombináciou skúseností s AI v akademickej obci a priemysle, ktorý by viedol tento projekt,“ povedal Surman. Financované z počiatočnej investície 30 miliónov dolárov od Mozilla Foundation, materskej organizácie Mozilly, Mozilla. ai je stopercentne vlastnená dcérska spoločnosť Mozilla Foundation spolu s Mozilla Corporation (organizácia zodpovedná za vývoj Firefoxu) a Mozilla Ventures (fond rizikového kapitálu Mozilla Foundation). Jej generálnym riaditeľom je Moez Draief, ktorý bol predtým hlavným vedcom laboratória Huawei Noah's Ark AI a globálnym hlavným vedcom v poradenskej spoločnosti Capgemini.
počiatočnú prioritu z Mozilla.ai vytvorí tím približne 25 inžinierov, produktoví vedci a manažéri pracovať na spoľahlivých odporúčacích systémoch a rozsiahlych jazykových modeloch ako napr OpenAI GPT-4.
Ale širšou ambíciou spoločnosti je vytvoriť sieť partnerských spoločností a výskumných skupín, vrátane startupov a akademických inštitúcií podporovaných Mozilla Ventures, ktoré zdieľajú jej víziu.
Dobrá správa: Stretli sme tisíce zakladateľov, inžinierov, vedcov, dizajnérov, umelcov a aktivistov, ktorí využívajú tento prístup k AI. Inteligentní, oddaní ľudia vytvárajú technológie AI s otvoreným zdrojom, testujú nové prístupy k auditu a zisťujú, ako vložiť „dôveru“ do AI v reálnom svete.
Zlá správa: Veľké technologické a cloudové spoločnosti, ktoré majú najväčšiu moc a vplyv, nerobia to isté. Medzitým tieto spoločnosti pokračujú v upevňovaní svojej kontroly nad trhom.
Zrátané a podčiarknuté: Niektorí ľudia začínajú robiť veci inak, ale najdôležitejšiu prácu (a investície) robia stále rovnako. Chceme to zmeniť.
Mozilla.ai strávi niekoľko nasledujúcich mesiacov vývojom nástrojov čo napríklad používateľom umožní overiť si zdroje za odpoveďami, ktoré im chatboti dávajú. Spoločnosť sa tiež bude snažiť vybudovať systémy, ktoré používateľom poskytnú väčšiu kontrolu nad odporúčaniami AI (konkrétne algoritmy, ktoré poháňajú kanály YouTube, Twitter a TikTok).
Fuente: https://blog.mozilla.org/
Gratulujem k tomuto skvelému projektu.
Po línii, ktorá poskytuje spoločnosti bezpečnosť, sa len oni presvedčia o tom, ktorý produkt im ponúka väčšiu dôveru, takže nebude potrebné nič meniť, ale stále viac sa zlepšovať a ponúkať používateľom dobrý produkt. Ostatní preto stratia dôveryhodnosť.
Pozdrav
Manuel Mesa