La startup nouvellement formée recevra son financement de démarrage de 30 millions de dollars de la Fondation Mozilla,
A la veille de son 25ème anniversaire, Mozilla, l'association à but non lucratif à l'origine du navigateur Firefox, lance une startup axée sur l'intelligence artificielle.
Appelé Mozilla.ai, la nouvelle société n'a pas pour mission de construire n'importe quelle IA : sa mission est de construire une IA "fiable" et open source, selon Mark Surman, PDG de Mozilla et responsable de Mozilla.ai.
La startup vise à unir des personnes partageant les mêmes idées qui croient que les développements liés à l'IA doivent être transparents, contrôlés et ouverts.
mozilla.ai fournira aux développeurs, aux chercheurs et aux créateurs de produits une plate-forme distincte, séparé des grandes entreprises et des établissements d'enseignement, et leur permettra de construire ensemble un écosystème indépendant, décentralisé et de confiance.
En termes de développement, la première phase portera sur des outils pour améliorer la sécurité et la transparence des modèles d'apprentissage automatique génératif.
"Travaillant sur Trusted AI depuis près de cinq ans, j'ai toujours ressenti un mélange d'excitation et d'anxiété. Le mois ou les deux derniers mois d'annonces rapides de grandes technologies d'IA n'ont pas été différents. Une nouvelle technologie vraiment passionnante est en train d'émerger - de nouveaux outils qui ont immédiatement inspiré les artistes, les fondateurs… toutes sortes de personnes à faire de nouvelles choses. L'inquiétude survient lorsque vous vous rendez compte que presque personne ne regarde les balustrades », a-t-il déclaré.
Surman fait référence à la montée en puissance des modèles d'IA au cours des derniers mois qui, bien qu'impressionnants dans leurs capacités, ont des implications inquiétantes dans le monde réel. Au moment de sa sortie, le ChatGPT générateur de texte d'OpenAI pouvait être trompé pour écrire des logiciels malveillants, identifier les vulnérabilités dans le code open source et créer des sites Web de phishing qui ressemblent à des sites à fort trafic.
Nous travaillons sur une IA fiable du côté de la recherche d'intérêt public depuis environ cinq ans, dans l'espoir que d'autres acteurs de l'industrie ayant plus d'expérience en IA s'engageront à créer une technologie plus fiable. Ils ne l'ont pas fait. Nous avons donc décidé au milieu de l'année dernière que nous devions le faire nous-mêmes et trouver des partenaires partageant les mêmes idées pour le faire avec nous.
Nous avons ensuite cherché à trouver quelqu'un avec la bonne combinaison d'expérience en IA dans le milieu universitaire et l'industrie pour diriger ce projet », a déclaré Surman. Financé par un investissement initial de 30 millions de dollars de la Fondation Mozilla, l'organisation mère de Mozilla, Mozilla. ai est une filiale en propriété exclusive de la Fondation Mozilla, avec Mozilla Corporation (l'organisation responsable du développement de Firefox) et Mozilla Ventures (le fonds de capital-risque de la Fondation Mozilla). Son directeur général est Moez Draief, qui était auparavant scientifique en chef du laboratoire d'intelligence artificielle Noah's Ark de Huawei et scientifique en chef mondial du cabinet de conseil Capgemini.
La priorité initiale par Mozilla.ai sera de constituer une équipe d'environ 25 ingénieurs, scientifiques et gestionnaires de produits travailler sur des systèmes de recommandation fiables et des modèles de langage étendus tels que OpenAI GPT-4.
Mais l'ambition plus large de l'entreprise est d'établir un réseau d'entreprises partenaires et de groupes de recherche, y compris des startups et des institutions académiques soutenues par Mozilla Ventures, qui partagent sa vision.
La bonne nouvelle : nous avons rencontré des milliers de fondateurs, d'ingénieurs, de scientifiques, de designers, d'artistes et d'activistes qui adoptent cette approche de l'IA. Des personnes intelligentes et dévouées créent des technologies d'IA open source, testent de nouvelles approches d'audit et trouvent comment intégrer la "confiance" dans l'IA du monde réel.
La mauvaise nouvelle : les grandes entreprises de technologie et de cloud, qui ont le plus de pouvoir et d'influence, ne font pas la même chose. Pendant ce temps, ces entreprises continuent de consolider leur contrôle sur le marché.
Conclusion : Certaines personnes commencent à faire les choses différemment, mais le travail (et l'investissement) le plus important est toujours effectué de la même manière. Nous voulons changer ça.
Mozilla.ai passera les prochains mois à développer des outils qui, par exemple, permettra aux utilisateurs de vérifier les sources derrière les réponses que les chatbots leur donnent. La société cherchera également à créer des systèmes qui donneront aux utilisateurs plus de contrôle sur les recommandations de l'IA (à savoir, les algorithmes qui alimentent les flux YouTube, Twitter et TikTok).
source: https://blog.mozilla.org/
Félicitations pour ce super projet.
En suivant la ligne qui assure la sécurité de la société, eux seuls seront convaincus du produit qui leur offre une plus grande confiance, de cette façon il ne sera pas nécessaire de changer quoi que ce soit, mais de s'améliorer de plus en plus et d'offrir un bon produit aux utilisateurs. Les autres perdront donc leur crédibilité.
salutations
Manuel Mesa