Mozilla.ai, стартап зі створення надійного ШІ з відкритим кодом

Новостворений стартап отримає початкове фінансування в розмірі 30 мільйонів доларів від Mozilla Foundation,

Напередодні свого 25-річчя Mozilla, некомерційна організація, що стоїть за браузером Firefox, запускає стартап, орієнтований на штучний інтелект.

Під назвою Mozilla.ai, За словами Марка Сурмана, генерального директора Mozilla та керівника Mozilla.ai, нова компанія не має на меті створити будь-який штучний інтелект: її місія полягає у створенні «надійного» штучного інтелекту з відкритим кодом.

Стартап має на меті об’єднати однодумців, які вважають, що розробки, пов’язані зі ШІ, мають бути прозорими, контрольованими та відкритими.

mozilla.ai надасть розробникам, дослідникам і творцям продуктів окрему платформу, відокремлений від великих корпорацій і навчальних закладів, і дозволить їм спільно побудувати незалежну, децентралізовану та надійну екосистему.

З точки зору розробки, перший етап буде зосереджений на інструментах для підвищення безпеки та прозорості моделей генеративного машинного навчання.

«Працюючи над Trusted AI майже п’ять років, я завжди відчував поєднання хвилювання та тривоги. Останні місяць чи два швидких анонсів великих технологій штучного інтелекту нічим не відрізняються. Незабаром з’явиться справді захоплююча нова технологія – нові інструменти, які одразу надихнули художників, засновників… будь-яких людей на нові речі. Занепокоєння виникає, коли розумієш, що на поручні майже ніхто не дивиться», – сказав він.

Сурман має на увазі сплеск моделей ШІ за останні місяці, які, незважаючи на вражаючі своїми можливостями, мають тривожні наслідки в реальному світі. На момент випуску ChatGPT OpenAI, що генерує текст, можна було обманом змусити написати зловмисне програмне забезпечення, виявити вразливості у відкритому вихідному коді та створити фішингові веб-сайти, які виглядають як сайти з високим трафіком.

Ми працюємо над надійним штучним інтелектом у сфері дослідження суспільних інтересів близько п’яти років, сподіваючись, що інші учасники галузі з більшим досвідом штучного інтелекту візьмуть на себе зобов’язання створювати більш надійну технологію. Вони цього не зробили. Тож у середині минулого року ми вирішили, що маємо зробити це самі та знайти партнерів-однодумців, які зроблять це разом з нами.

Потім ми вирішили знайти людину з правильним поєднанням досвіду штучного інтелекту в наукових і промислових колах, щоб очолити цей проект», — сказав Сурман. Фінансовано за рахунок початкових інвестицій у розмірі 30 мільйонів доларів від Mozilla Foundation, головної організації Mozilla, Mozilla. ai є дочірньою компанією Mozilla Foundation, а також Mozilla Corporation (організація, відповідальна за розробку Firefox) і Mozilla Ventures (фонд венчурного капіталу Mozilla Foundation). Його виконавчим директором є Моез Драйф, який раніше був головним науковим співробітником лабораторії Huawei Noah's Ark AI і глобальним головним науковим співробітником консалтингової компанії Capgemini.

початковий пріоритет з Mozilla.ai буде сформувати команду приблизно з 25 інженерів, науковці та менеджери працювати над надійними рекомендаційними системами та обширними мовними моделями, такими як OpenAI GPT-4. 

Але ширша мета компанії полягає в тому, щоб створити мережу компаній-партнерів і дослідницьких груп, включаючи стартапи та наукові установи, що підтримуються Mozilla Ventures, які поділяють її бачення.

Гарна новина: ми зустріли тисячі засновників, інженерів, науковців, дизайнерів, художників та активістів, які використовують цей підхід до ШІ. Розумні, віддані своїй справі люди створюють технології штучного інтелекту з відкритим кодом, випробовують нові підходи до аудиту та з’ясовують, як вбудувати «довіру» в реальний штучний інтелект.

Погана новина: великі технологічні та хмарні компанії, які мають найбільшу владу та вплив, не роблять те саме. При цьому ці компанії продовжують зміцнювати свій контроль над ринком.

Підсумок: деякі люди починають робити щось по-іншому, але найважливіша робота (та інвестиції) все одно виконується так само. Ми хочемо це змінити.

Mozilla.ai витратить наступні кілька місяців на розробку інструментів що, наприклад, дозволить користувачам перевіряти джерела відповідей, які їм дають чат-боти. Компанія також намагатиметься створювати системи, які нададуть користувачам більше контролю над рекомендаціями AI (а саме, алгоритмами, які забезпечують канали YouTube, Twitter і TikTok).

Фуенте: https://blog.mozilla.org/