מנכ"ל אנתרופ מתאר תוכנית להאטת פיתוח הבינה המלאכותית
דריו אמודיי פשוט ביקש מהתעשייה... להאט. לא לעצור. את הקצב. חיבור ארוך, שלושה צעדים, ואזהרה ששיפור עצמי רקורסיבי כבר מתבשל מהר יותר ממה שהמבוגרים יכולים לבדוק.
אנתרופיק מזמין באופן חד צדדי מעריכים בתוך הבניין - תגים, שולחנות עבודה, מחשבים ניידים והזכות לפרסם ממצאים ללא פילטר יחסי ציבור. אחר כך הוא רוצה מעבדות דמוקרטיות שיתאמו את תקני הבטיחות. אחר כך, איכשהו, עסקה עם ממשלות סמכותניות. קל על הנייר. קשה בכל מקום אחר.
הוא עדיין אומר שבינה מלאכותית יכולה להיות נס. הוא גם אומר שנחיל בעל יכולות גבוהות יותר, שאינו מיושר כראוי, עלול להשתלט על האינטרנט עם בוטנט מתמשך ולגרום נזק של מאות מיליארדי דולרים. שני המשפטים האלה יושבים אחד ליד השני והם לא מסתדרים.
אה - והוא רוצה ויתור מצומצם על הגבלים עסקיים כדי ששיחות הבטיחות לא יהוו בעיה משפטית כשלעצמן. הבלמים מגיעים עם ניירת. ברור שכן.
סם אלטמן מאשר ש-OpenAI לא תצא לציבור השנה, ואמר כי הנפקה ראשונית כעת תגיע ב"רגע לא מומלץ" בהתחשב בחששות בטיחות הבינה המלאכותית
אלטמן התיישב לראיון בלעדי וקיבל את לוח הזמנים של הנפקות המניות. הנפקה כרגע, הוא אמר, תהיה "רגע לא מומלץ". עבודת הבטיחות לא נעשתה. ההתאמה לא נעשתה. החברה לא מוכנה. כשהם לחצו עליו - לא השנה.
הבנקאים כבר חגו סביב. המסמכים הסודיים קיימים. כעת המנכ"ל אומר שיש להם הרבה דברים לעשות קודם, כולל להבין איך בכלל התעשייה והממשלות עובדות יחד. הוא נשמע כמעט מוקל לו כשהוא מחכה.
הוא גם אמר שבניית בינה מלאכותית מעבר לשליטת האדם היא "בהחלט אפשרית" - ואז נשבע שיפסיק את האימון אם זו הדרך. נועז. גם נוח, אולי. אולי גם וגם. הסבך של מלכ"ר/למטרות רווח, טען, קיים כדי שהם יוכלו לבצע החלטות שאינן בבירור לטובת בעלי המניות. נראה אם המשפט הזה ישרוד במגע עם תשקיף אמיתי.
סם אלטמן מ-OpenAI רומז על הסכם עם חברות בינה מלאכותית אחרות כדי להתמודד עם סיכוני בטיחות
אותו ראיון, כותרת שונה, וזה הלחישה. לשבת עם אמודיי, מאסק ודמיס חסאביס זה הצעד הטבעי הבא. אלטמן: הוא חושב שזה יקרה. הוא לא יכריז מראש על שיחות פרטיות. אחר כך הוא בעצם הודיע עליהן מראש.
סיכון קטסטרופלי דו-ספרתי אינו מקובל, הוא אמר. המודלים שעדיין לא פורסמו כבר כה חזקים, עד שדחיפה נוספת ללא יכולת ניטור טובה יותר מרגישה פזיזה. הסכם אמיתי ואווירה שהודלפה בקפידה יכולות להיראות זהות מבחוץ.
הצוות כבר שמע גרסה של זה באופן פנימי. בפומבי זה עדיין ערפל. אם החדר יקרה, נהדר. אם לא, הציטוט עדיין עשה את העבודה.
סם אלטמן תומך בקריאתו של דריו אמודי להאט, ואומר ש-OpenAI תעשה את אותו הדבר
שעות לאחר פרסום המאמר, אלטמן פרסם כי OpenAI יתאים להתחייבות של מעריך משובץ. גישה כמו של עובד. עוד נשתף בקרוב. מאסק כתב שלוש מילים: "דריו צודק". שלושה מנכ"לים יריבים. סיסמה אחת. אנרגיה לא רגועה בסוף השבוע.
תיאום ותיאטרון יכולים לנוע יחד. השלב הראשון בתוכנית של אמודיי גורם כעת לשתיים מהמעבדות הגדולות ביותר להנהן בפומבי. "פנים מחבקות" - כן, הפנים המחבקות האלה - ביקש להצטרף לתוכנית המעריכים והשיק משהו שנקרא "יוזמת היישור הפתוח". שקיפות מצד האנשים שנפרצו. פואטי, או מכוון.
לאירופה, למען הסר ספק, אין למי לבקש את הפטור בסגנון אמריקאי. בריסל הפסיקה לחלק פטורים אישיים מזמן. אז לחיצת היד היא אמריקאית. שאר המפה היא... משיכת כתפיים.
OpenAI רק רוצה לנצח
מתמטיקאים אינם במצב רוח חגיגי אחרי סוף שבוע של ראיונות. ספרינט נאווייר-סטוקס של OpenAI - כעשרת אלפים סוכנים, עשרות מיליוני דולרים של מחשוב, שמונים ושמונה שעות - נראה כמו ציד גביעים מבפנים התחום. מתמטיקאים רוצים תובנות. המעבדה, הם אומרים שוב ושוב, רוצה לנצח.
טריסטן באקמאסטר אמר להם ש-OpenAI מציעה מחשוב בלתי מוגבל וזכויות יוצרים בלעדיות אם הוא ינטוש את שותפו המזוהה עם אנתרופיק. הוא כינה זאת שוחד. הוא אמר שלא. OpenAI אומר, באופן חד משמעי, שהנחיות הקודקס שלו לא יכלו להשפיע על המערכת. הוא לא משוכנע. אנדראס תום עדיין תוהה האם צ'אטים של ChatGPT על עבודתו שלו הזינו את המודל שנבנה עליה מאוחר יותר. רק החברה תדע. הוא חושד שהם אפילו לא יודעים.
ואז הקטע המרכזי: OpenAI טוענת שכבר עשתה התקדמות משמעותית בבעיה נוספת של פרס המילניום. שמה נשאר ללא שם. קליי עדיין זקוק לחלון קבלה ארוך של הקהילה בכל מקרה. אז אף אחד עדיין לא "ניצח". הם פשוט כבר מתחרים על הבא. חמוד.
שאלות נפוצות
מהי תוכניתו של מנכ"ל אנתרופיק, דריו אמודיי, לקידום פיתוח הבינה המלאכותית?
אמודי פרסם מאמר ארוך ובו קרא לתעשייה להאט - לא לעצור - משום ששיפור עצמי רקורסיבי מתקדם מהר יותר ממה שמבקרים יכולים לעמוד בקצב. הצעד הראשון הוא הזמנה חד-צדדית של מעריכים משובצים ל-Anthropic עם תגים, שולחנות עבודה, מחשבים ניידים והזכות לפרסם ממצאים ללא פילטר יחסי ציבור. לאחר מכן הוא רוצה שמעבדות דמוקרטיות יתאמו את תקני הבטיחות, ובסופו של דבר, ייחתמו צורה כלשהי של עסקה עם ממשלות סמכותניות. הוא גם רוצה ויתור מצומצם על הגבלים עסקיים כדי שיחות בטיחות לא יהוו בעיה משפטית בעצמן.
מדוע אמר סם אלטמן ש-OpenAI לא תנפיק את עצמה השנה?
בראיון בלעדי, אמר אלטמן כי הנפקה ראשונית כרגע תהיה רגע לא מומלץ משום שעבודות בטיחות, יישור קו ומוכנות חברתית טרם הושלמו. כשנשאל, אישר שזה לא יקרה השנה, למרות שבנקאים מסתובבים וקיים תיק סודי. הוא טען כי מבנה העמותות/למטרות רווח קיים כך ש-OpenAI יכולה לבצע החלטות שאינן בבירור לטובת בעלי המניות. הוא גם אמר כי בניית בינה מלאכותית מעבר לשליטת האדם היא בהחלט אפשרית ונשבע כי יעצור את האימון אם זו תהיה הדרך.
האם אלטמן רמז על הסכם בטיחות עם מעבדות בינה מלאכותית אחרות?
באותו ראיון, אמר אלטמן כי הוא סבור שפגישה עם עמיתים כמו אמודיי, מאסק ודמיס חסאביס תתקיים, אך סירב להכריז מראש על שיחות פרטיות. הוא טען כי סיכון קטסטרופלי דו-ספרתי אינו מקובל וכי מודלים שטרם פורסמו כבר כה חזקים עד שדחיפה נוספת ללא יכולת ניטור טובה יותר מרגישה פזיזה. הצוות כבר שמע גרסה פנימית של זה, כך שהערות הציבור עשויות להצביע על תיאום במקום לאשר הסכם גמור.
האם OpenAI תעמוד בהתחייבותה של Anthropic להערכה משובצת?
שעות ספורות לאחר המאמר של אמודי, אלטמן פרסם כי OpenAI תתאים את התחייבות המעריך המוטמע עם גישה דמוית עובדים ופרטים נוספים בקרוב. אילון מאסק כתב שדריו צודק, והציב שלושה מנכ"לים יריבים על סיסמה דומה. Hugging Face ביקש להצטרף לתוכנית המעריך והשיק יוזמת יישור פתוח. אירופה אינה יכולה להציע את אותו ויתור על הגבלים עסקיים בסגנון אמריקאי שהציע אמודי, כך שלחיצת היד היא בעיקר אמריקאית לעת עתה.
מדוע מתמטיקאים מבקרים את ספרינט נאווייר-סטוקס של OpenAI?
מתמטיקאים מתארים את ריצת Navier-Stokes של OpenAI, בת כעשרת אלפים סוכנים ובתקופה של שמונים ושמונה שעות, כציד גביעים שמעדיף ניצחון על פני תובנות. טריסטן באקמאסטר אמר ש-OpenAI מציעה חישוב בלתי מוגבל וזכויות יוצרים בלעדיות אם הוא יפטר משתף פעולה הקשור לאנתרופיק; הוא כינה זאת שוחד וסירב. OpenAI אומר שהנחיות הקודקס שלו לא יכלו להשפיע על המערכת, אך הוא עדיין לא משוכנע. אנדראס תום עדיין מטיל ספק האם צ'אטGPT שוחח על עבודתו שלו הזינה את התקדמות המודל המאוחרת יותר.
האם OpenAI טענה להתקדמות בבעיה נוספת של פרס המילניום?
OpenAI טוענת שכבר עשתה התקדמות משמעותית בבעיה נוספת של פרס המילניום, אך לא תציין איזו מהן. מכון קליי למתמטיקה עדיין דורש חלון זמן קבלה ארוך מהקהילה, כך שאף אחד עדיין לא זכה רשמית. בתוך התחום, הסודיות הזו בתוספת המירוץ הקודם בין נאווייר לסטוקס מתורגמת כמעבדות שכבר רצה אחר הגביע הבא. ראיונות ב-Verge ממחישים את המתח כמתמטיקאים שרוצים תובנות בעוד ש-OpenAI רוצה לנצח.