Mozilla.ai、信頼できるオープンソース AI の構築を使命とするスタートアップ

新しく設立されたスタートアップは、Mozilla Foundation から 30 万ドルのシード資金を受け取ります。

25周年の前夜に、 Mozilla、 Firefox ブラウザーの背後にある非営利団体、 は、人工知能に焦点を当てたスタートアップを立ち上げています。

Mozilla.ai と呼ばれ、 Mozilla の CEO で Mozilla.ai の責任者である Mark Surman 氏によると、その使命は「信頼できる」オープンソース AI を構築することです。

このスタートアップは、AI 関連の開発は透明性があり、管理され、開かれているべきだと考える志を同じくする人々を団結させることを目指しています。

mozilla.ai 開発者、研究者、製品クリエーターに別のプラットフォームを提供します、大企業や教育機関から分離され、独立した分散型の信頼できるエコシステムを共同で構築できるようになります。

開発に関しては、第 XNUMX 段階では生成機械学習モデルのセキュリティと透明性を向上させるツールに焦点を当てます。

「Trusted AI に XNUMX 年近く取り組んできましたが、常に興奮と不安が入り混じっていました。 大きな AI テクノロジが急速に発表されたこの XNUMX、XNUMX か月も例外ではありません。 真にエキサイティングな新しいテクノロジーが出現しようとしています。新しいツールは、アーティストや創業者など、あらゆる種類の人々に新しいことをするようすぐに影響を与えました。 手すりを見ている人がほとんどいないことに気がつくと、懸念が生じます」と彼は言いました。

Surman 氏は、ここ数か月で AI モデルが急増していることに言及しています。これらのモデルは、その能力は印象的ですが、現実世界に不穏な影響を及ぼしています。 リリース時には、OpenAI のテキスト生成 ChatGPT はだまされて、マルウェアを作成し、オープン ソース コードの脆弱性を特定し、トラフィックの多いサイトのように見えるフィッシング Web サイトを作成する可能性がありました。

AI の経験が豊富な他の業界関係者が、より信頼できるテクノロジの構築に取り組んでくれることを期待して、私たちは約 XNUMX 年間、公益研究の側面で信頼できる AI に取り組んできました。 彼らはしませんでした。 そのため、昨年の半ばに、自分たちでそれを行う必要があり、志を同じくするパートナーを見つけて一緒に行うことにしました。

次に、このプロジェクトを率いるために、学界と産業界で AI の経験を適切に組み合わせた人物を探し始めました」と Surman 氏は述べています。 Mozilla の親組織である Mozilla Foundation からの 30 万ドルの初期投資によって資金提供されました。 ai は、Mozilla Corporation (Firefox の開発を担当する組織) および Mozilla Ventures (Mozilla Foundation のベンチャー キャピタル ファンド) とともに、Mozilla Foundation の完全子会社です。 同社の最高経営責任者は、以前はファーウェイのノアズ アーク AI ラボのチーフ サイエンティストであり、コンサルティング会社キャップジェミニのグローバル チーフ サイエンティストであった Moez Draief です。

最初の優先度 Mozilla.ai から 約25名のエンジニアからなるチームを編成し、 製品科学者とマネージャー 信頼できるレコメンデーション システムと広範な言語モデルに取り組む OpenAI GPT-4. 

しかし、同社のより広い野望は、Mozilla Ventures が支援する新興企業や学術機関など、ビジョンを共有するパートナー企業や研究グループのネットワークを確立することです。

良いニュース: AI に対してこのアプローチを採用している何千人もの創設者、エンジニア、科学者、デザイナー、アーティスト、活動家に会ってきました。 賢明で献身的な人々は、オープンソースの AI テクノロジを作成し、監査への新しいアプローチをテストし、実際の AI に「信頼」を埋め込む方法を見つけ出しています。

悪いニュースは、最大の権力と影響力を持っている大手テクノロジー企業とクラウド企業が、同じことをしていないことです。 その間、これらの企業は市場に対する支配力を強化し続けています。

結論: 物事を別の方法で始める人もいますが、最も重要な作業 (および投資) は同じように行われます。 私たちはそれを変えたいと思っています。

Mozilla.ai は、ツールの開発に今後数か月を費やします これにより、たとえば、ユーザーはチャットボットが提供する回答の背後にあるソースを確認できます. 同社はまた、ユーザーが AI レコメンデーション (つまり、YouTube、Twitter、および TikTok フィードを強化するアルゴリズム) をより詳細に制御できるようにするシステムの構築も目指しています。

出典 https://blog.mozilla.org/