Mozilla.ai, стартираща компания с мисия да изгради надежден AI с отворен код

Новосъздаденият стартъп ще получи начално финансиране от 30 милиона долара от фондация Mozilla,

В навечерието на своята 25-та годишнина, мозила, организацията с нестопанска цел зад браузъра Firefox, стартира стартъп, фокусиран върху изкуствения интелект.

Наречен Mozilla.ai, новата компания не е на мисия да изгради какъвто и да е AI: нейната мисия е да изгради „надежден“ AI с отворен код, според Марк Сърман, главен изпълнителен директор на Mozilla и ръководител на Mozilla.ai.

Стартъпът има за цел да обедини съмишленици, които вярват, че свързаните с ИИ разработки трябва да бъдат прозрачни, контролирани и отворени.

mozilla.ai ще предостави на разработчиците, изследователите и създателите на продукти отделна платформа, отделена от големите корпорации и образователни институции, и ще им позволи съвместно да изградят независима, децентрализирана и надеждна екосистема.

По отношение на разработката, първата фаза ще се фокусира върху инструменти за подобряване на сигурността и прозрачността на генеративните модели за машинно обучение.

„Работейки върху Trusted AI в продължение на почти пет години, винаги съм чувствал смесица от вълнение и безпокойство. Последните месец или два на бързи съобщения за големи AI технологии не бяха по-различни. Една наистина вълнуваща нова технология е на път да се появи – нови инструменти, които незабавно вдъхновиха артисти, основатели… всякакви хора да правят нови неща. Загрижеността идва, когато осъзнаете, че почти никой не гледа към парапетите“, каза той.

Сърман има предвид нарастването на AI моделите през последните месеци, които, макар и впечатляващи в своите възможности, имат обезпокоителни последици в реалния свят. По време на пускането си, генериращият текст ChatGPT на OpenAI може да бъде подмамен да пише зловреден софтуер, да идентифицира уязвимости в кода с отворен код и да създава фишинг уебсайтове, които изглеждат като сайтове с висок трафик.

Ние работим върху надежден AI от страна на научните изследвания в обществен интерес от около пет години, с надеждата, че други играчи в индустрията с повече опит в AI ще се ангажират с изграждането на по-надеждна технология. Те не го направиха. Така че в средата на миналата година решихме, че трябва да го направим сами и да намерим съмишленици, които да го направят с нас.

След това се заехме да намерим някой с подходящата комбинация от AI опит в академичните среди и индустрията, който да ръководи този проект“, каза Сърман. Финансиран от първоначална инвестиция от $30 милиона от Mozilla Foundation, организацията-майка на Mozilla, Mozilla. ai е изцяло притежавано дъщерно дружество на Mozilla Foundation, заедно с Mozilla Corporation (организацията, отговорна за разработването на Firefox) и Mozilla Ventures (фондът за рисков капитал на Mozilla Foundation). Негов главен изпълнителен директор е Moez Draief, който преди това е бил главен учен в лабораторията за изкуствен интелект на Ноевия ковчег на Huawei и глобален главен учен в консултантската компания Capgemini.

първоначалния приоритет от Mozilla.ai ще бъде формирането на екип от приблизително 25 инженери, продуктови учени и мениджъри да работи върху надеждни препоръчителни системи и обширни езикови модели като напр OpenAI GPT-4. 

Но по-широката амбиция на компанията е да създаде мрежа от партньорски компании и изследователски групи, включително подкрепени от Mozilla Ventures стартиращи компании и академични институции, които споделят нейната визия.

Добрата новина: Срещнахме хиляди основатели, инженери, учени, дизайнери, художници и активисти, които възприемат този подход към ИИ. Интелигентни, отдадени хора създават AI технологии с отворен код, тестват нови подходи за одит и измислят как да вградят „доверието“ в реалния AI.

Лошата новина: Големите технологични и облачни компании, които имат най-голяма власт и влияние, не правят същото. Междувременно тези компании продължават да консолидират контрола си върху пазара.

В крайна сметка: Някои хора започват да правят нещата по различен начин, но най-важната работа (и инвестиция) все още се върши по същия начин. Искаме да променим това.

Mozilla.ai ще прекара следващите няколко месеца в разработване на инструменти което например ще позволи на потребителите да проверят източниците зад отговорите, които чатботовете им дават. Компанията също така ще се стреми да изгради системи, които дават на потребителите повече контрол върху препоръките на AI (а именно алгоритмите, които захранват емисиите на YouTube, Twitter и TikTok).

Fuente: https://blog.mozilla.org/