הסטארטאפ החדש שהוקם יקבל את מימון ה-Sed של 30 מיליון דולר מקרן מוזילה,
ערב יום הולדתו ה-25, מוזילה, הארגון ללא מטרות רווח מאחורי דפדפן Firefox, משיקה סטארטאפ המתמקד בבינה מלאכותית.
נקרא Mozilla.ai, החברה החדשה אינה במשימה לבנות סתם בינה מלאכותית: המשימה שלה היא לבנות AI "אמין" וקוד פתוח, לדברי מארק סורמן, מנכ"ל מוזילה וראש Mozilla.ai.
מטרת הסטארט-אפ היא לאחד אנשים בעלי דעות דומות המאמינות שפיתוחים הקשורים ל-AI צריכים להיות שקופים, מבוקרים ופתוחים.
mozilla.ai יספק למפתחים, חוקרים ויוצרי מוצרים פלטפורמה נפרדת, מופרד מתאגידים גדולים ומוסדות חינוך, ויאפשר להם לבנות במשותף מערכת אקולוגית עצמאית, מבוזרת ומהימנה.
מבחינת פיתוח, השלב הראשון יתמקד בכלים לשיפור האבטחה והשקיפות של מודלים של למידת מכונה גנרטיבית.
"בעבודתי על AI מהימן במשך כמעט חמש שנים, תמיד הרגשתי תערובת של התרגשות וחרדה. החודש-חודשיים האחרונים של הכרזות מהירות על טכנולוגיות AI גדולות לא היו שונים. טכנולוגיה חדשה ומרגשת באמת בדרך להופיע - כלים חדשים שהעניקו מיד השראה לאמנים, מייסדים... כל מיני אנשים לעשות דברים חדשים. הדאגה מגיעה כשאתה מבין שכמעט אף אחד לא מסתכל על המעקות", אמר.
סורמן מתייחס לזינוק של דגמי AI בחודשים האחרונים, שאמנם מרשימים ביכולותיהם, אך יש להם השלכות מטרידות בעולם האמיתי. בזמן שחרורו, ניתן היה להערים על ChatGPT של OpenAI שיוצר טקסטים לכתיבת תוכנות זדוניות, לזהות נקודות תורפה בקוד קוד פתוח וליצור אתרי פישינג שנראים כמו אתרים בעלי תנועה גבוהה.
אנחנו עובדים על AI מהימן בצד המחקר של האינטרס הציבורי במשך כחמש שנים, בתקווה ששחקנים אחרים בתעשייה עם יותר ניסיון ב-AI יתחייבו לבנות טכנולוגיה אמינה יותר. הם לא עשו זאת. אז החלטנו באמצע השנה שעברה שאנחנו חייבים לעשות את זה בעצמנו ולמצוא שותפים בעלי דעות דומות שיעשו את זה איתנו.
לאחר מכן יצאנו למצוא מישהו עם השילוב הנכון של ניסיון בינה מלאכותית באקדמיה ובתעשייה שיוביל את הפרויקט הזה", אמר סורמן. ממומן מהשקעה ראשונית של 30 מיליון דולר מקרן מוזילה, ארגון האם של מוזילה, מוזילה. ai היא חברה בת בבעלות מלאה של קרן מוזילה, יחד עם Mozilla Corporation (הארגון האחראי לפיתוח Firefox) ו-Mozilla Ventures (קרן ההון סיכון של קרן מוזילה). המנכ"ל שלה הוא מוז דרייף, שהיה בעבר המדען הראשי במעבדת הבינה המלאכותית של נח'ס תיבת Huawei ומדען ראשי עולמי בחברת הייעוץ Capgemini.
העדיפות הראשונית מ-Mozilla.ai יהיה להרכיב צוות של כ-25 מהנדסים, מדעני ומנהלי מוצר לעבוד על מערכות ממליצים אמינות ומודלים נרחבים של שפה כגון OpenAI GPT-4.
אבל השאיפה הרחבה יותר של החברה היא להקים רשת של חברות וקבוצות מחקר שותפות, כולל סטארטאפים ומוסדות אקדמיים הנתמכים על ידי Mozilla Ventures, שחולקים את החזון שלה.
החדשות הטובות: פגשנו אלפי מייסדים, מהנדסים, מדענים, מעצבים, אמנים ופעילים הנוקטים בגישה זו ל-AI. אנשים חכמים ומסורים יוצרים טכנולוגיות בינה מלאכותית בקוד פתוח, בודקים גישות חדשות לביקורת, ומגלים כיצד להטמיע "אמון" ב-AI בעולם האמיתי.
החדשות הרעות: חברות הטכנולוגיה והענן הגדולות, שיש להן הכי הרבה כוח והשפעה, לא עושות את אותו הדבר. בינתיים, חברות אלו ממשיכות לבסס את שליטתן בשוק.
שורה תחתונה: יש אנשים שמתחילים לעשות דברים אחרת, אבל העבודה (וההשקעה) החשובה ביותר עדיין נעשית אותו הדבר. אנחנו רוצים לשנות את זה.
Mozilla.ai תשקיע את החודשים הקרובים בפיתוח כלים מה, למשל, יאפשר למשתמשים לאמת את המקורות מאחורי התשובות שצ'אטבוטים נותנים להם. החברה תחפש גם לבנות מערכות שנותנות למשתמשים שליטה רבה יותר על המלצות בינה מלאכותית (כלומר, האלגוריתמים המניעים את הזנות של YouTube, טוויטר ו-TikTok).
מקור: https://blog.mozilla.org/
כל הכבוד על הפרויקט הנהדר הזה.
בעקבות הקו המעניק ביטחון לחברה, הם לבדם ישתכנעו איזה מוצר מעניק להם יותר ביטחון, כך לא יהיה צורך לשנות דבר, אלא לשפר עוד ועוד ולהציע מוצר טוב למשתמשים. האחרים, אפוא, יאבדו אמינות.
ברכות
מנואל מסה