Mozilla.ai，一家以構建值得信賴的開源 AI 為使命的初創公司

這家新成立的初創公司將從 Mozilla 基金會獲得 30 萬美元的種子資金，

在成立25週年前夕， 摩斯拉， Firefox 瀏覽器背後的非營利組織， 正在啟動一家專注於人工智能的初創公司。

稱為 Mozilla.ai， Mozilla 首席執行官兼 Mozilla.ai 負責人馬克·蘇爾曼 (Mark Surman) 表示，這家新公司的使命並非只是構建任何 AI：其使命是構建“值得信賴”的開源 AI。

這家初創公司旨在團結志同道合的人，他們認為人工智能相關的發展應該是透明的、可控的和開放的。

mozilla.ai 將為開發人員、研究人員和產品創造者提供一個單獨的平台，與大公司和教育機構分離，讓他們共同構建一個獨立、去中心化和可信的生態系統。

在開發方面，第一階段將專注於提高生成機器學習模型的安全性和透明度的工具。

“在 Trusted AI 上工作了將近五年，我總是感到既興奮又焦慮。 大型 AI 技術的快速發布的最後一兩個月也沒有什麼不同。 一項真正令人興奮的新技術即將出現——新工具立即激發藝術家、創始人……各種各樣的人去做新事物。 當你意識到幾乎沒有人在看欄杆時，你就會擔心，”他說。

Surman 指的是近幾個月人工智能模型的激增，雖然它們的能力令人印象深刻，但對現實世界的影響令人不安。 在發佈時，OpenAI 的文本生成 ChatGPT 可能會被誘騙編寫惡意軟件，識別開源代碼中的漏洞，並創建看起來像高流量網站的網絡釣魚網站。

我們在公共利益研究方面一直致力於可信賴的 AI 大約五年，希望其他具有更多 AI 經驗的行業參與者致力於構建更多可信賴的技術。 他們沒有。 所以我們在去年年中決定，我們必須自己做，並找到志同道合的伙伴和我們一起做。

然後，我們開始尋找在學術界和工業界具有適當 AI 經驗的人來領導這個項目，”Surman 說。 由 Mozilla 的母公司 Mozilla 基金會的 30 萬美元初始投資資助。 ai 是 Mozilla 基金會的全資子公司，另外還有 Mozilla Corporation（負責開發 Firefox 的組織）和 Mozilla Ventures（Mozilla 基金會的風險投資基金）。 其首席執行官是Moez Draief，他曾任華為諾亞方舟人工智能實驗室首席科學家和凱捷諮詢公司全球首席科學家。

初始優先級 來自 Mozilla.ai 將組建一個由大約 25 名工程師組成的團隊， 產品科學家和經理 致力於可靠的推薦系統和廣泛的語言模型，例如 OpenAI GPT-4. 

但該公司更廣泛的目標是建立一個合作夥伴公司和研究團體網絡，包括 Mozilla Ventures 支持的初創公司和學術機構，分享其願景。

好消息：我們遇到了數以千計的創始人、工程師、科學家、設計師、藝術家和活動家，他們正在採用這種方法來開發人工智能。 聰明、敬業的人們正在創造開源人工智能技術，測試新的審計方法，並弄清楚如何將“信任”嵌入現實世界的人工智能中。

壞消息：擁有最大權力和影響力的大型科技和雲公司並沒有這樣做。 同時，這些公司繼續鞏固對市場的控制。

底線：有些人一開始做事的方式不同，但最重要的工作（和投資）仍然以相同的方式完成。 我們想改變這一點。

Mozilla.ai 將在未來幾個月內開發工具 例如，這將允許用戶驗證聊天機器人給他們的答案背後的來源。 該公司還將尋求構建讓用戶更好地控制 AI 推薦的系統（即為 YouTube、Twitter 和 TikTok 提要提供支持的算法）。

來源： https://blog.mozilla.org/