Mozilla.ai, startup, którego misją jest budowanie godnej zaufania sztucznej inteligencji typu open source

Nowo utworzony startup otrzyma finansowanie początkowe w wysokości 30 milionów dolarów od Fundacji Mozilla,

W przeddzień swoich 25-lecia, Mozilli, organizacja non-profit stojąca za przeglądarką Firefox, uruchamia startup skupiony na sztucznej inteligencji.

Nazywa się Mozilla.ai, nowa firma nie ma misji budowania sztucznej inteligencji: jej misją jest budowanie „godnej zaufania” sztucznej inteligencji o otwartym kodzie źródłowym, według Marka Surmana, dyrektora generalnego Mozilli i szefa Mozilla.ai.

Startup ma na celu zjednoczenie podobnie myślących ludzi, którzy wierzą, że rozwój związany ze sztuczną inteligencją powinien być przejrzysty, kontrolowany i otwarty.

mozilla.ai zapewni programistom, badaczom i twórcom produktów oddzielną platformę, odseparowanych od dużych korporacji i instytucji edukacyjnych, i pozwoli im wspólnie budować niezależny, zdecentralizowany i zaufany ekosystem.

Jeśli chodzi o rozwój, pierwsza faza skupi się na narzędziach poprawiających bezpieczeństwo i przejrzystość generatywnych modeli uczenia maszynowego.

„Pracując nad Trusted AI przez prawie pięć lat, zawsze odczuwałem mieszankę podekscytowania i niepokoju. Nie inaczej było w ciągu ostatniego miesiąca lub dwóch szybkich zapowiedzi dużych technologii sztucznej inteligencji. Wkrótce pojawi się naprawdę ekscytująca nowa technologia — nowe narzędzia, które natychmiast zainspirowały artystów, założycieli… wszelkiego rodzaju ludzi do robienia nowych rzeczy. Niepokój pojawia się, gdy zdajesz sobie sprawę, że prawie nikt nie patrzy na poręcze” – powiedział.

Surman odnosi się do gwałtownego wzrostu modeli sztucznej inteligencji w ostatnich miesiącach, które, choć imponujące pod względem swoich możliwości, mają niepokojące implikacje w świecie rzeczywistym. W momencie wydania, generujący tekst ChatGPT OpenAI mógł zostać oszukany do pisania złośliwego oprogramowania, identyfikowania luk w kodzie open source i tworzenia stron phishingowych, które wyglądają jak strony o dużym natężeniu ruchu.

Od około pięciu lat pracujemy nad wiarygodną sztuczną inteligencją po stronie badań interesu publicznego, mając nadzieję, że inni gracze z branży z większym doświadczeniem w sztucznej inteligencji zaangażują się w tworzenie bardziej godnej zaufania technologii. nie zrobili tego. Dlatego w połowie zeszłego roku zdecydowaliśmy, że musimy to zrobić sami i znaleźć podobnie myślących partnerów, którzy zrobią to razem z nami.

Następnie postanowiliśmy znaleźć kogoś z odpowiednią mieszanką doświadczenia w zakresie sztucznej inteligencji w środowisku akademickim i przemysłowym, aby poprowadzić ten projekt” – powiedział Surman. Sfinansowany z początkowej inwestycji w wysokości 30 milionów dolarów od Fundacji Mozilla, macierzystej organizacji Mozilli, Mozilla. ai jest spółką całkowicie zależną Fundacji Mozilla wraz z Mozilla Corporation (organizacją odpowiedzialną za rozwój Firefoksa) i Mozilla Ventures (fundusz venture capital Fundacji Mozilla). Jej dyrektorem naczelnym jest Moez Draief, który wcześniej był głównym naukowcem w laboratorium Huawei Noah's Ark AI i globalnym głównym naukowcem w firmie konsultingowej Capgemini.

początkowy priorytet z Mozilla.ai będzie utworzenie zespołu około 25 inżynierów, naukowców i menedżerów produktów do pracy na niezawodnych systemach rekomendujących i rozbudowanych modelach językowych, takich jak OpenAI GPT-4. 

Jednak szerszą ambicją firmy jest stworzenie sieci firm partnerskich i grup badawczych, w tym start-upów i instytucji akademickich wspieranych przez Mozilla Ventures, które podzielają jej wizję.

Dobra wiadomość: poznaliśmy tysiące założycieli, inżynierów, naukowców, projektantów, artystów i aktywistów, którzy stosują takie podejście do sztucznej inteligencji. Inteligentni, zaangażowani ludzie tworzą technologie sztucznej inteligencji typu open source, testują nowe podejścia do audytu i zastanawiają się, jak osadzić „zaufanie” w rzeczywistej sztucznej inteligencji.

Złe wieści: duże firmy technologiczne i chmurowe, które mają największą władzę i wpływy, nie robią tego samego. Tymczasem firmy te nadal konsolidują swoją kontrolę nad rynkiem.

Konkluzja: Niektórzy ludzie zaczynają robić rzeczy inaczej, ale najważniejsza praca (i inwestycja) wciąż jest wykonywana w ten sam sposób. Chcemy to zmienić.

Mozilla.ai spędzi kilka następnych miesięcy na rozwijaniu narzędzi co np. pozwoli użytkownikom zweryfikować źródła odpowiedzi, których udzielają im chatboty. Firma będzie również dążyć do zbudowania systemów, które zapewnią użytkownikom większą kontrolę nad rekomendacjami AI (mianowicie algorytmami zasilającymi kanały YouTube, Twitter i TikTok).

źródło: https://blog.mozilla.org/