Mozilla.ai, uma startup com a missão de construir IA confiável e de código aberto

A startup recém-formada receberá seu financiamento inicial de US$ 30 milhões da Mozilla Foundation,

Na véspera do seu 25º aniversário, Mozila, a organização sem fins lucrativos por trás do navegador Firefox, está lançando uma startup focada em inteligência artificial.

Chamado Mozilla.ai, a nova empresa não tem como missão construir qualquer IA: sua missão é construir IA "confiável" e de código aberto, de acordo com Mark Surman, CEO da Mozilla e chefe do Mozilla.ai.

A startup visa unir pessoas afins que acreditam que os desenvolvimentos relacionados à IA devem ser transparentes, controlados e abertos.

mozilla.ai fornecerá aos desenvolvedores, pesquisadores e criadores de produtos uma plataforma separada, separado de grandes corporações e instituições educacionais, e permitirá que eles construam em conjunto um ecossistema independente, descentralizado e confiável.

Em termos de desenvolvimento, a primeira fase se concentrará em ferramentas para melhorar a segurança e a transparência dos modelos generativos de aprendizado de máquina.

“Trabalhando no Trusted AI por quase cinco anos, sempre senti uma mistura de empolgação e ansiedade. Os últimos dois meses de anúncios rápidos de grandes tecnologias de IA não foram diferentes. Uma nova tecnologia verdadeiramente empolgante está a caminho – novas ferramentas que imediatamente inspiraram artistas, fundadores… todos os tipos de pessoas a fazer coisas novas. A preocupação surge quando você percebe que quase ninguém está olhando para as grades”, disse.

Surman está se referindo ao surgimento de modelos de IA nos últimos meses que, embora impressionantes em suas capacidades, têm implicações perturbadoras no mundo real. No momento de seu lançamento, o ChatGPT de geração de texto do OpenAI poderia ser induzido a escrever malware, identificar vulnerabilidades no código-fonte aberto e criar sites de phishing que se parecem com sites de alto tráfego.

Temos trabalhado em IA confiável no lado da pesquisa de interesse público por cerca de cinco anos, com a esperança de que outros players do setor com mais experiência em IA se comprometam a construir uma tecnologia mais confiável. Eles não. Então decidimos no meio do ano passado que tínhamos que fazer isso nós mesmos e encontrar parceiros com ideias semelhantes para fazer isso conosco.

Em seguida, partimos para encontrar alguém com a combinação certa de experiência em IA na academia e na indústria para liderar este projeto”, disse Surman. Financiado por um investimento inicial de $ 30 milhões da Mozilla Foundation, organização controladora da Mozilla, a Mozilla. ai é uma subsidiária integral da Mozilla Foundation, juntamente com a Mozilla Corporation (a organização responsável pelo desenvolvimento do Firefox) e a Mozilla Ventures (o fundo de capital de risco da Mozilla Foundation). Seu executivo-chefe é Moez Draief, que anteriormente foi cientista-chefe do laboratório Noah's Ark AI da Huawei e cientista-chefe global da consultoria Capgemini.

a prioridade inicial por Mozilla.ai será formar uma equipe de aproximadamente 25 engenheiros, cientistas e gerentes de produto para trabalhar em sistemas de recomendação confiáveis ​​e modelos de linguagem extensivos, como OpenAI GPT-4. 

Mas a ambição mais ampla da empresa é estabelecer uma rede de empresas parceiras e grupos de pesquisa, incluindo startups e instituições acadêmicas apoiadas pela Mozilla Ventures, que compartilhem sua visão.

A boa notícia: conhecemos milhares de fundadores, engenheiros, cientistas, designers, artistas e ativistas que estão adotando essa abordagem da IA. Pessoas inteligentes e dedicadas estão criando tecnologias de IA de código aberto, testando novas abordagens para auditoria e descobrindo como incorporar "confiança" na IA do mundo real.

A má notícia: as grandes empresas de tecnologia e nuvem, que têm mais poder e influência, não estão fazendo o mesmo. Enquanto isso, essas empresas continuam consolidando seu controle sobre o mercado.

Resumindo: algumas pessoas começam fazendo as coisas de maneira diferente, mas o trabalho (e o investimento) mais importante ainda é feito da mesma forma. Queremos mudar isso.

Mozilla.ai passará os próximos meses desenvolvendo ferramentas que, por exemplo, permitirá aos usuários verificar as fontes por trás das respostas que os chatbots lhes dão. A empresa também buscará construir sistemas que dêem aos usuários mais controle sobre as recomendações de IA (ou seja, os algoritmos que alimentam os feeds do YouTube, Twitter e TikTok).

fonte: https://blog.mozilla.org/