⚖️ אנתרופיק תבעה את הפנטגון בגין מניעת שימוש בבינה מלאכותית ↗
אנתרופיק הגישה את המאבק שלה עם הפנטגון לבית המשפט לאחר שסומנה כסיכון לשרשרת האספקה. החברה טוענת שהמהלך היה נקמה בלתי חוקית על סירובה להקל על מעקות הבטיחות סביב נשק אוטונומי ומעקב מקומי - מה שמציב את המחלוקת הזו בין נקודות ההצתה הדליקות ביותר במדיניות הבינה המלאכותית כרגע. (רויטרס)
הממשלה רוצה גמישות עבור "כל שימוש חוקי", בעוד שאנתרופיק טוענת שמעבדות פרטיות עדיין צריכות להיות רשאיות לשרטט קווי בטיחות נוקשים. זה הפך לאחד המבחנים הברורים ביותר עד כה האם חברת בינה מלאכותית יכולה לסרב למונחים צבאיים מבלי להידחות על כך. (רויטרס)
🧑💻 עובדים ב-OpenAI וב-Google תומכים בתביעה של Anthropic נגד הפנטגון ↗
תביעה זו זכתה במהרה לתמיכה גם ממעבדות יריבות פנימיות. כמעט 40 עובדים מ-OpenAI ו-Google תמכו ב-Anthropic בתצהיר ידיד, בטענה כי נקמה נגד חברות על קווי בטיחות של בינה מלאכותית פוגעת באינטרס הציבורי. (The Verge)
אז כן, המתחרים מצאו את עצמם לפתע באותו צד - לפחות בנקודה הזו. התקציר מתמקד במעקב המוני ובנשק אוטונומי לא אמין, מה שגורם לכל העניין להרגיש פחות כמו צליפה סטנדרטית בעמק הסיליקון ויותר כמו קו אמיתי של תעשייה בחול... או בבוץ, אולי. (The Verge)
🛡️ OpenAI רוכשת את Promptfoo כדי לאבטח את סוכני הבינה המלאכותית שלה ↗
OpenAI הודיעה כי היא רוכשת את Promptfoo, סטארט-אפ המתמקד בהגנה על מודלים גדולים של שפות מפני התקפות עוינות. התוכנית היא לשלב את הטכנולוגיה שלה ב-OpenAI Frontier, פלטפורמת הארגון של החברה לסוכני בינה מלאכותית. (TechCrunch)
זהו צעד מרשים. כולם רוצים שבינה מלאכותית של סוכנים תעשה יותר, מהר יותר, בכל מקום - אבל צד האבטחה פיגר מאחור, בין אם במעט או בהרבה. העסקה הזו מרמזת ש-OpenAI חושבת שהמירוץ הגדול הבא הוא לא רק לסוכנים חכמים יותר, אלא גם לסוכנים בטוחים יותר. (TechCrunch)
🧪 אנתרופיק משיקה כלי סקירת קוד כדי לבדוק את שטף הקוד שנוצר על ידי בינה מלאכותית ↗
Anthropic השיקה את Code Review בתוך Claude Code, שמטרתו לצוותים שסובלים מבקשות משיכה שנוצרו על ידי כלי קידוד של בינה מלאכותית. היא משתמשת במספר סוכנים במקביל כדי לסרוק קוד, לסמן בעיות לוגיות, לדרג חומרה ולהשאיר הערות ישירות ב-GitHub. (TechCrunch)
ההצעה פשוטה למדי - בינה מלאכותית מייצרת קוד מהר יותר ממה שבני אדם יכולים לבדוק אותו באופן הגיוני, אז עכשיו בינה מלאכותית צריכה לבדוק את הבינה המלאכותית. סידור קצת כמו של נחש אוכל את זנבו, אך פרקטי. אנתרופיק אומרת שהיא מכוונת למשתמשים ארגוניים שכבר רואים פלט קוד עצום מקלוד קוד. (TechCrunch)
💰 Nscale, הנתמכת על ידי Nvidia, מוערכת ב-14.6 מיליארד דולר בסבב גיוס חדש ↗
חברת התשתית הבריטית Nscale, המתמקדת בתשתיות בינה מלאכותית, גייסה 2 מיליארד דולר בסבב גיוס C, והגיעה לשווי של 14.6 מיליארד דולר. בין התומכים היו Aker, 8090 Industries, Nvidia, Citadel, Dell ו-Jane Street - מה שמסתכם בהצבעת אמון משמעותית למדי. (רויטרס)
זה חשוב כי זה לא עוד השקת מודל או שינוי בצ'אטבוט. זה הצד ה"מעודד" של הפריחה - מחשוב, תשתית, קיבולת, כל המכונות הכבדות שמאחורי הפרגוד. אולי לא זוהר, אבל לשם דוהר עכשיו הרבה מהכסף. (רויטרס)
🧠 מעבדות AMI של יאן לקון מגייסות 1.03 מיליארד דולר לבניית מודלים עולמיים ↗
המיזם החדש של יאן לקון, AMI Labs, גייס 1.03 מיליארד דולר לפי שווי של 3.5 מיליארד דולר לפני הכסף. החברה רודפת אחר "מודלים עולמיים" - מערכות בינה מלאכותית שנועדו ללמוד מהמציאות עצמה ולא בעיקר משפה. (TechCrunch)
זוהי תנופה פילוסופית ישירה כלפי הקונצנזוס הנוכחי, העמוס בלימודי משפטים, וגם תנופה בוטה במיוחד. לה-קון טען במשך שנים שמודלי השפה של ימינו לא יובילו אותנו עד לאינטליגנציה ברמה אנושית, כך שהעלאה הזו הופכת את הטיעון הזה לניסוי יקר מאוד. (TechCrunch)
🇨🇳 מרכזי טכנולוגיה סיניים מקדמים את סוכן הבינה המלאכותית OpenClaw למרות אזהרות אבטחה ↗
מספר רשויות מקומיות בסין תומכות ב-OpenClaw, סוכן בינה מלאכותית שמתפשט במהירות למרות חששות ביטחוניים הקשורים לגישתו למידע אישי. לכן נראה כי מצב הרוח הרשמי הוא: כן, ישנם סיכונים - וכן, בואו נגדיל אותו בכל מקרה. (רויטרס)
הפיצול הזה הוא הסיפור. מרכזים מקומיים רוצים את הפוטנציאל הכלכלי ואת המומנטום של המערכת האקולוגית, בעוד הרגולטורים מזהירים מפני חשיפה לנתונים. זהו דפוס מוכר של בינה מלאכותית כבר עכשיו - קודם כל ספרינט, אחר כך מסדרים את המעקות, או כך לפחות נראה. (רויטרס)
שאלות נפוצות
מדוע אנתרופיק תובעת את הפנטגון על הגבלות השימוש בבינה מלאכותית?
אנתרופיק טוענת שהפנטגון כינה זאת סיכון בשרשרת האספקה לאחר שהחברה סירבה לתנאים רחבים יותר שיכולים להשתרע על כלי נשק אוטונומיים ומעקב מקומי. משמעות הדבר היא שהתביעה עוסקת ביותר ממעמד של ספק. היא בוחנת האם מעבדת בינה מלאכותית יכולה לשמור על מגבלות בטיחות נוקשות ועדיין להתחרות על עבודות ממשלתיות מבלי להיענש.
מדוע עובדי OpenAI וגוגל תומכים ב-Anthropic בסכסוך הזה בנוגע לבטיחות בבינה מלאכותית?
סיכום הידיד מאותת על כך שאנשים רבים במעבדות מתחרות רואים בכך סוגיית בטיחות בינה מלאכותית תקדימית, ולא רק מאבק בין חברה אחת לסוכנות אחת. דאגתם היא שענישת ספק על שמירה על קווים אדומים עלולה ללחוץ על השוק הרחב להחליש את אמצעי ההגנה. בפועל, הדבר עשוי לעצב את אופן המשא ומתן על חוזים עתידיים בתחום הביטחון והבינה המלאכותית במגזר הציבורי.
מה יכול לשנות מקרה אנתרופו-פנטגון עבור מדיניות בינה מלאכותית וחוזי הגנה?
אם אנתרופיק תנצח, לחברות בינה מלאכותית עשויה להיות בסיס חזק יותר להגדיר שימושים בלתי מקובלים, אפילו כאשר הן מוכרות לסביבות ממשלתיות רגישות. אם היא תפסיד, סוכנויות יוכלו לצבור יתרון לדרוש תנאי "שימוש חוקי" רחבים יותר מספקים. כך או כך, סכסוך זה צפוי להשפיע על שפת הרכש, סקירות הסיכונים והאופן שבו כללי בטיחות נכללים בעסקאות ביטחוניות.
מדוע OpenAI רכשה את Promptfoo עבור סוכני בינה מלאכותית?
Promptfoo ידועה בבדיקת מודלים של שפות גדולות כנגד הנחיות עוינות וחולשות אבטחה אחרות. שילוב כלים מסוג זה בפלטפורמת הסוכנים הארגוניים של OpenAI מרמז שהחברה רואה בפריסה בטוחה יותר יתרון תחרותי ולא כמשימה צדדית. ככל שסוכני בינה מלאכותית לוקחים על עצמם עבודה משמעותית יותר, קשה הרבה יותר להתעלם מבדיקות חוסן וניצול לרעה.
כיצד צוותים יכולים להתמודד עם שטף הקוד שנוצר על ידי בינה מלאכותית בצורה בטוחה יותר?
תכונת סקירת הקוד החדשה של Anthropic בתוך Claude Code מכוונת לצוותים המוצפים בבקשות משיכה שנוצרות על ידי כלי קידוד מבוססי בינה מלאכותית. היא משתמשת בסוכנים מרובים במקביל כדי לאתר בעיות לוגיות, לדרג חומרה ולהשאיר הערות ב-GitHub. בדרך כלל, כלים כאלה עוזרים לדרג את כמות הבעיות, אך בודקים אנושיים עדיין חשובים לארכיטקטורה, להקשר ולאישור הסופי.
מדוע תשתית בינה מלאכותית מקבלת כל כך הרבה השקעה כרגע?
סבב הגיוס האחרון של Nscale מדגיש שתעשיית הבינה המלאכותית עדיין משקיעה הון עצום במחשוב, תשתיות וקיבולת. הוצאות אלו אולי פחות גלויות לעין מאשר השקת מודל ראוותנית, אך הן מהוות בסיס לכל השאר. כאשר הביקוש להכשרה ופריסה ממשיך לעלות, החברות המוכרות את המעדים והאתים הופכות לעתים קרובות לחלק מהמנצחות הגדולות ביותר.
מהם מודלים עולמיים, ומדוע יאן לקון מהמר עליהם?
מודלים עולמיים הם מערכות בינה מלאכותית שנועדו ללמוד מהאופן שבו העולם מתנהג, במקום להסתמך בעיקר על נתוני שפה. זה חשוב מכיוון שיאן לקון טען זה מכבר שמודלי שפה כשלעצמם לא צפויים להגיע לאינטליגנציה ברמה אנושית. AMI Labs הופכת את השקפה זו להימור מסחרי משמעותי על נתיב שונה למחקר בינה מלאכותית מתקדם.
מדוע מרכזי טכנולוגיה סיניים תומכים ב-OpenClaw למרות אזהרות אבטחה?
סיפור OpenClaw מראה פיצול מוכר בתוך שווקי טכנולוגיה מתפתחים במהירות: רשויות מקומיות רוצות צמיחה, סובסידיות ומומנטום של המערכת האקולוגית, בעוד הרגולטורים מודאגים מחשיפת נתונים ואבטחה. התמיכה בסוכן למרות אזהרות מצביעה על כך שתמריצים כלכליים שוררים במקומות מסוימים. עבור משקיפים, זוהי תזכורת נוספת לכך שאימוץ מתקדם לעתים קרובות מהר יותר מפיקוח.