Mozilla.ai, стартап, целью которого является создание надежного искусственного интеллекта с открытым исходным кодом.

мозилла-ай

Недавно созданный стартап получит начальное финансирование в размере 30 миллионов долларов от Mozilla Foundation.

Накануне своего 25-летия, Mozilla, некоммерческая организация, стоящая за браузером Firefox, запускает стартап, ориентированный на искусственный интеллект.

Вызывается Mozilla.ai, По словам Марка Сурмана, генерального директора Mozilla и главы Mozilla.ai, новая компания не ставит перед собой задачу создать любой ИИ: ее миссия состоит в создании «заслуживающего доверия» ИИ с открытым исходным кодом.

Стартап призван объединить единомышленников, которые считают, что разработки в области ИИ должны быть прозрачными, контролируемыми и открытыми.

mozilla.ai предоставит разработчикам, исследователям и создателям продуктов отдельную платформу, отделенная от крупных корпораций и учебных заведений, и позволит им совместно построить независимую, децентрализованную и доверенную экосистему.

Что касается разработки, то на первом этапе основное внимание будет уделено инструментам для повышения безопасности и прозрачности моделей генеративного машинного обучения.

«Работая над Trusted AI почти пять лет, я всегда чувствовал смесь волнения и беспокойства. Последние месяц или два быстрых анонсов больших технологий искусственного интеллекта ничем не отличались. На подходе появление по-настоящему захватывающей новой технологии — новых инструментов, которые сразу же вдохновили художников, основателей… самых разных людей на новые вещи. Беспокойство возникает, когда понимаешь, что почти никто не смотрит на перила», — сказал он.

Сурман имеет в виду всплеск моделей ИИ в последние месяцы, которые, хотя и впечатляют своими возможностями, имеют тревожные последствия для реального мира. На момент выпуска генерирующий текст OpenAI ChatGPT можно было обманом заставить написать вредоносное ПО, выявить уязвимости в открытом исходном коде и создать фишинговые веб-сайты, которые выглядят как сайты с высокой посещаемостью.

Мы работаем над надежным искусственным интеллектом в области исследования общественных интересов уже около пяти лет, надеясь, что другие игроки отрасли, обладающие большим опытом в области искусственного интеллекта, возьмут на себя обязательства по созданию более надежных технологий. Они этого не сделали. Поэтому в середине прошлого года мы решили, что должны сделать это сами и найти партнеров-единомышленников, которые сделают это вместе с нами.

Затем мы решили найти кого-то с правильным сочетанием опыта работы с ИИ в академических кругах и промышленности, чтобы возглавить этот проект», — сказал Сурман. Финансируется за счет первоначальных инвестиций в размере 30 миллионов долларов от Mozilla Foundation, материнской организации Mozilla, Mozilla. ai является дочерней компанией, находящейся в полной собственности Mozilla Foundation, наряду с Mozilla Corporation (организация, ответственная за разработку Firefox) и Mozilla Ventures (фонд венчурного капитала Mozilla Foundation). Его исполнительным директором является Моэз Драйф, который ранее был главным научным сотрудником лаборатории искусственного интеллекта Huawei Noah’s Ark и главным научным сотрудником консалтинговой компании Capgemini.

первоначальный приоритет с сайта Mozilla.ai будет сформировать команду примерно из 25 инженеров, продуктовые ученые и менеджеры работать с надежными рекомендательными системами и обширными языковыми моделями, такими как OpenAI GPT-4

Но более широкое стремление компании состоит в том, чтобы создать сеть партнерских компаний и исследовательских групп, включая стартапы, поддерживаемые Mozilla Ventures, и академические институты, которые разделяют ее видение.

Хорошая новость: мы познакомились с тысячами основателей, инженеров, ученых, дизайнеров, художников и активистов, которые используют этот подход к ИИ. Умные, преданные своему делу люди создают технологии искусственного интеллекта с открытым исходным кодом, тестируют новые подходы к аудиту и выясняют, как внедрить «доверие» в реальный искусственный интеллект.

Плохая новость: крупные технологические и облачные компании, обладающие наибольшей властью и влиянием, не делают того же. Между тем, эти компании продолжают укреплять свой контроль над рынком.

Итог: некоторые люди начинают делать что-то по-другому, но самая важная работа (и инвестиции) по-прежнему выполняются одинаково. Мы хотим изменить это.

Mozilla.ai потратит следующие несколько месяцев на разработку инструментов что, например, позволит пользователям проверять источники ответов, которые им дают чат-боты. Компания также будет стремиться создавать системы, которые дадут пользователям больший контроль над рекомендациями ИИ (а именно, алгоритмами, которые управляют каналами YouTube, Twitter и TikTok).

источник: https://blog.mozilla.org/


Комментарий, оставьте свой

Оставьте свой комментарий

Ваш электронный адрес не будет опубликован. Обязательные для заполнения поля помечены *

*

*

  1. Ответственный за данные: Мигель Анхель Гатон
  2. Назначение данных: контроль спама, управление комментариями.
  3. Легитимация: ваше согласие
  4. Передача данных: данные не будут переданы третьим лицам, кроме как по закону.
  5. Хранение данных: база данных, размещенная в Occentus Networks (ЕС)
  6. Права: в любое время вы можете ограничить, восстановить и удалить свою информацию.

  1.   Мануэль сказал

    Поздравляю с этим великим проектом.

    Следуя линии, обеспечивающей безопасность общества, они одни будут убеждены в том, какой продукт вызывает у них большее доверие, таким образом, не нужно будет ничего менять, а все больше и больше улучшать и предлагать пользователям хороший продукт. Таким образом, остальные потеряют доверие.

    приветствия
    Мануэль Меса