Mozilla.ai，一家以构建值得信赖的开源 AI 为使命的初创公司

这家新成立的初创公司将从 Mozilla 基金会获得 30 万美元的种子资金，

在成立25周年前夕， Mozilla的， Firefox 浏览器背后的非营利组织， 正在启动一家专注于人工智能的初创公司。

称为 Mozilla.ai， Mozilla 首席执行官兼 Mozilla.ai 负责人马克·苏尔曼 (Mark Surman) 表示，这家新公司的使命并非只是构建任何 AI：其使命是构建“值得信赖”的开源 AI。

这家初创公司旨在团结志同道合的人，他们认为人工智能相关的发展应该是透明的、可控的和开放的。

mozilla.ai 将为开发人员、研究人员和产品创造者提供一个单独的平台，与大公司和教育机构分离，让他们共同构建一个独立、去中心化和可信的生态系统。

在开发方面，第一阶段将专注于提高生成机器学习模型的安全性和透明度的工具。

“在 Trusted AI 上工作了将近五年，我总是感到既兴奋又焦虑。 大型 AI 技术的快速发布的最后一两个月也没有什么不同。 一项真正令人兴奋的新技术即将出现——新工具立即激发艺术家、创始人……各种各样的人去做新事物。 当你意识到几乎没有人在看栏杆时，你就会担心，”他说。

Surman 指的是近几个月人工智能模型的激增，虽然它们的能力令人印象深刻，但对现实世界的影响令人不安。 在发布时，OpenAI 的文本生成 ChatGPT 可能会被诱骗编写恶意软件，识别开源代码中的漏洞，并创建看起来像高流量网站的网络钓鱼网站。

我们在公共利益研究方面一直致力于可信赖的 AI 大约五年，希望其他具有更多 AI 经验的行业参与者致力于构建更多可信赖的技术。 他们没有。 所以我们在去年年中决定，我们必须自己做，并找到志同道合的伙伴和我们一起做。

然后，我们开始寻找在学术界和工业界具有适当 AI 经验的人来领导这个项目，”Surman 说。 由 Mozilla 的母公司 Mozilla 基金会的 30 万美元初始投资资助。 ai 是 Mozilla 基金会的全资子公司，另外还有 Mozilla Corporation（负责开发 Firefox 的组织）和 Mozilla Ventures（Mozilla 基金会的风险投资基金）。 其首席执行官是Moez Draief，他曾任华为诺亚方舟人工智能实验室首席科学家和凯捷咨询公司全球首席科学家。

最初的优先级 来自 Mozilla.ai 将组建一个由大约 25 名工程师组成的团队， 产品科学家和经理 致力于可靠的推荐系统和广泛的语言模型，例如 OpenAI GPT-4. 

但该公司更广泛的目标是建立一个合作伙伴公司和研究团体网络，包括 Mozilla Ventures 支持的初创公司和学术机构，分享其愿景。

好消息：我们遇到了数以千计的创始人、工程师、科学家、设计师、艺术家和活动家，他们正在采用这种方法来开发人工智能。 聪明、敬业的人们正在创造开源人工智能技术，测试新的审计方法，并弄清楚如何将“信任”嵌入现实世界的人工智能中。

坏消息：拥有最大权力和影响力的大型科技和云公司并没有这样做。 同时，这些公司继续巩固对市场的控制。

底线：有些人一开始做事的方式不同，但最重要的工作（和投资）仍然以相同的方式完成。 我们想改变这一点。

Mozilla.ai 将在未来几个月内开发工具 例如，这将允许用户验证聊天机器人给他们的答案背后的来源。 该公司还将寻求构建让用户更好地控制 AI 推荐的系统（即为 YouTube、Twitter 和 TikTok 提要提供支持的算法）。

数据来源： https://blog.mozilla.org/