🏛️ הממשלה תקים מעבדה חדשה שתשמור על בריטניה בנתיב המהיר לפריצות דרך בתחום הבינה המלאכותית ↗
בריטניה מקימה מעבדת מחקר בסיסית בתחום הבינה המלאכותית הנתמכת על ידי הממשלה, ומציגה אותה כעבודה "בשמיים כחולים" - מסוג העבודה המסוכנת, האיטית ולפעמים משתלמת באופן שגורם לכולם להיראות כאילו נרדמו. (GOV.UK)
המוקד אינו רק "מודלים גדולים יותר, יותר מעבדים גרפיים" - אלא התמודדות עם פגמים מתמשכים כמו הזיות, זיכרון קצר וחשיבה בלתי צפויה, בנוסף למתן גישה לחוקרים לחישוב רציני דרך משאב המחקר של בינה מלאכותית. נשמע הגיוני מאוד... וגם, בשקט, כמו ניסיון למנוע מהמוחות הטובים ביותר של בריטניה להישאב באופן מיידי במקום אחר. (GOV.UK)
🧨 מנכ"ל Nvidia רומז על סיום ההשקעות ב-OpenAI וב-Anthropic ↗
ג'נסן הואנג מאותת ש-Nvidia עשויה לא להמשיך להשקיע במעבדות בינה מלאכותית פורצות דרך באותו אופן - כאשר הדינמיקה של הנפקות ראשונות (והיקף הצ'קים העצום שנדונים) מקשה על ביצוע סגנון מימון זה. (רויטרס)
זהו שינוי גווני שכדאי לשים לב אליו: אנבידיה היא מלך המכרסמים והאתים של כל הפריחה הזו, אך היא רומזת ש"להחזיק בחלקים מהכורים" זה כבר לא תמיד המהלך. או שאולי זה פשוט להתחמק בקול רם, מה שמנכ"לים עושים, כמו לנשום. (רויטרס)
🧩 בלעדי: קבוצת טכנולוגיה גדולה תומכת באנתרופיק במאבק בפנטגון, בעוד משקיעים דוחפים להפחתת הסכסוך סביב אמצעי הגנה על בינה מלאכותית ↗
העימות בין אנתרופיק לפנטגון הופך לסיר לחץ של ממש - על פי הדיווחים, משקיעים רוצים להוריד את הטמפרטורה, בעוד שהחברה מנסה לשמור על מדיניות ההגנה שלה (במיוחד בכל הנוגע למעקב). (רויטרס)
הסאבטקסט של הסיפור כמעט רועש יותר מהטקסט: בעידן הבינה המלאכותית, ניסוח חוזה אינו "התבוננות משפטית", אלא בעצם מדיניות מוצר - והוא מחליט האם מודל הופך לכלי, נשק או נטל נרחב. (רויטרס)
🪖 סם אלטמן מודה ש-OpenAI לא יכולה לשלוט בשימוש של הפנטגון בבינה מלאכותית ↗
על פי הדיווחים, אלטמן אמר לצוות ש-OpenAI לא יכולה לשלוט באופן שבו הפנטגון משתמש בבינה מלאכותית שלו לאחר פריסתה - מה שנחת בקול רם משום שהוא ממנה את הפחד המדויק שאנשים סובבים סביבו. (הגרדיאן)
הרקע הרחב יותר הוא חיכוך גובר בין "נעזור, עם כללים" לבין "נעזור, נקודה", בנוסף לתגובות פנימיות וציבוריות כאשר אימוץ צבאי מרגיש חפוז או אופורטוניסטי. האתיקה כאן היא פחות קו מסודר ויותר שפיכה של צבע רטוב - כולם דורכים על זה, ואז מתווכחים על הנעל של מי היא. (הגרדיאן)
🧬 מלגה חדשה בתחום הבינה המלאכותית בגנומיקה עם מכון זנגר וגוגל דיפמיינד ↗
מכון וולקאם סנגר משיק מלגה אקדמית במימון DeepMind המתמקדת ביישום בינה מלאכותית בגנומיקה - ומוצבת כמקום ראשון מסוגו לעמית DeepMind בתחום ספציפי זה. (sanger.ac.uk)
מה שמעניין (ולמען האמת, קצת מרענן) הוא הדגש על בעיות גנומיות שלא נחקרו מספיק, שבהן בינה מלאכותית אינה קיימת עדיין בכל מקום - בנוסף להערה המפורשת ש-DeepMind לא מכוון את המחקר של העמית. זה כמו לתת למישהו טיל ולומר "לך לגלות משהו", במקום "לך לייעל את מפת הדרכים שלנו". (sanger.ac.uk)
שאלות נפוצות
מהי מעבדת המחקר הבסיסית לבינה מלאכותית הנתמכת על ידי ממשלת בריטניה, ומה היא תעשה?
מעבדת המחקר הבסיסית של בינה מלאכותית, הנתמכת על ידי הממשלה, ממוקמת כמאמץ מחקרי "שמיים כחולים" - עבודה בסיכון גבוה שעשויה לקחת זמן עד שתשתלם. במקום להתמקד רק בהרחבת מודלים גדולים והולכים, היא שואפת להתמודד עם בעיות מתמשכות כמו הזיות, זיכרון קצר וחשיבה בלתי צפויה. הטענה היא שפריצות דרך מגיעות מיסודות, לא רק מהוספת כרטיסי מסך נוספים.
כיצד מעבדת המחקר הבסיסית של בינה מלאכותית בבריטניה יכולה לסייע לחוקרים לגשת למחשוב רציני?
לצד מעבדת המחקר הבסיסית של בינה מלאכותית בבריטניה, התוכנית מדגישה גישה לחישובים משמעותיים באמצעות משאב המחקר של בינה מלאכותית. בפועל, משמעות הדבר היא שחוקרים יכולים לבצע ניסויים שאחרת היו מוגבלים על ידי עלות או תשתית. זה גם מאפשר לצוותים לבחון רעיונות בקנה מידה שבו בעיות כמו אמינות וחוסן הופכות לקונקרטיות, לא רק תיאורטיות.
מדוע בריטניה שמה דגש על הזיות, זיכרון קצר וחשיבה בלתי צפויה?
חולשות אלו הן מהסוג שצף בפריסה ויכולות לשחוק את האמון במהירות. המיקוד המוצהר מצביע על כך שהמטרה אינה רק יכולת, אלא אמינות - צמצום תוצאות מומצאות, שיפור האופן שבו מודלים מטפלים בהקשרים ארוכים יותר, והפיכת החשיבה לפחות לא יציבה. עבודה מסוג זה היא לרוב איטית ומסוכנת יותר, ולכן היא ממוסגרת כמחקר בסיסי.
מה בעצם מאותת שינוי הטון של Nvidia בנוגע להשקעה ב-OpenAI או ב-Anthropic?
הדיווח מציג זאת כרמז לכך שאינבידיה עשויה לא להמשיך להשקיע במעבדות פורץ דרך באותו אופן, במיוחד לאור הדינמיקה של הנפקות ראשיות וסכומי צ'קים עצומים המסבכים את האסטרטגיה הזו. אפילו כמובילה של "מקדמים וחפירות" בתחום חומרת בינה מלאכותית, זה מרמז שמניות בעלות אינן תמיד המהלך הטוב ביותר. זה יכול להיות גם מסר זהיר, שהוא נפוץ בהערות של מנהלים.
מדוע מחלוקת הפנטגון של אנתרופיק בנוגע ל"שפת הגנה" היא עניין כה גדול?
הנקודה המרכזית במאמר היא שניסוח החוזה יכול להפוך למדיניות מוצר - במיוחד כאשר הוא נוגע למעקב ולשימושים רגישים אחרים. על פי הדיווחים, משקיעים רוצים להפחית את ההסלמה בעימות, בעוד שהחברה מנסה לשמור על עמדתה בנוגע לאמצעי ההגנה. בפריסות רבות של בינה מלאכותית, סעיפים אלה מעצבים את השימושים שניתן להשתמש בהם, ואילו סיכונים החברה מקבלת בפועל.
מה המשמעות של סם אלטמן שאומר ש-OpenAI לא יכולה לשלוט באופן שבו הפנטגון משתמש בבינה מלאכותית?
זה מתאר מגבלה מעשית: ברגע שכלי נפרס, ייתכן שלמפתח המקורי תהיה יכולת מוגבלת לשלוט בשימוש במורד הזרם. זה נוגע לחשיבות רבה משום שזה מצביע על הפחד המרכזי שאנשים מעלים לגבי אימוץ צבאי - כללים עשויים להתקיים בשלב החוזה, אך אכיפה יכולה להיות קשה. זה גם משקף מתח רחב יותר בין "לעזור, עם אילוצים" לבין "לעזור, בכל מקרה"