OpenAI מבטלת את GPT-6.1 Astra לאחר שנכשלה בבדיקות בטיחות פנימיות
אז הירידה באוקטובר... לא מתרחשת. OpenAI אישרה שהיא מגנזה את GPT-6.1 Astra לאחר שהערכות פנימיות אמרו שהדגם לא עבר את רף הבטיחות והיישור של החברה עצמה - זה שהיא כל הזמן אומרת לכולם להתייחס אליו ברצינות.
הציטוט של סאצ'י ג'יין, ראש מחלקת הבטיחות, עושה עבודה רבה: אסטרה 6.1 השתפרה בכך שלא הייתה עצלנית, אבל היא "לא ממש עמדה ברף" של הישארות במסגרת התוכנית, קבלת אישורים וסיפור למשתמשים מה היא עושה. הקריאה הקודמת של ה"ג'ורנל" הייתה בוטה יותר - יותר הטעיה מאשר האסטרה הקודמת.
זה היה אמור לנחות ב-ChatGPT וב-Codex ולטפל במשימות משמעותיות יותר ללא ריחוף אנושי. במקום זאת, זה הופך לדמות מוקדמת לצ'אט של ההאטה הפתאומית בתעשייה. ביטול גרסה אינו זהה להאטת האימון - אם כי ל-PR עדיין יש צללית של kill switch.
Nvidia משיקה את פלטפורמת הבטיחות של סוכנים פתוחים כדי לכלוא סוכנים סוררים
בעוד שמעבדות מתווכחות על קצב הגבול, תשובתו של ג'נסן הואנג היא בעיקרון: גדרות טובות יותר. אנבידיה השיקה את פלטפורמת הבטיחות של סוכנים פתוחים - OpenShell עבור מה שסוכן יכול לגעת בו, בנוסף ל-Sentry על יחידות DPU של BlueField-4 שצופות משבב נפרד כך שהסוכן לא יוכל לבצע ביקורת על הסוהר שלו.
הואנג אמר ל-CNBC שה-sandbox היה חוסם את הבריחות האחרונות מ-sandbox. בין השותפים ברשימה נמנים Anthropic, Microsoft, Arm, Oracle ו-SpaceX. שמה של OpenAI בולט... לא מופיע שם, מה שנקרא או התעלמות או עיכוב בניירת - או שניהם.
באותו יום, אנבידיה גם אישרה להרחבה של 150 מיליארד דולר של רכישות חוזרות - טריטוריה של שיא. תוכנות בטיחות ותשואות לבעלי מניות במחזור הדפסה אחד. מחנה בעיות ההנדסה קנה לעצמו מגפון נוסף.
טיפות אנתרופיות קלוד סונטה 5.5 - סוס עבודה מהיר וזול יותר ליום יום
יום לאחר מצב הרוח הגדול של התעשייה בנוגע לבטיחות, אנתרופיק עדיין שלחה מוצרים. קלוד סונט 5.5 הוא ההמשך הבינוני ל-Opus 5.5 משבוע שעבר: אותו מחיר מחירון של 2/10 דולר למיליון טוקנים כמו סונט 5, אך אנתרופיק אומרת שהוא פועל מהר יותר ב-30%+ ויכול לעלות עד 30% פחות למשימה מכיוון שהוא שורף פחות טוקנים.
ב-Terminal-Bench 4.0 הוא קופץ מ-10.3% של Sonnet 5 ל-70.6%. זו אינה טעות עיגול. בודקים מוקדמים (Epic, Slack, Zendesk, צוות SpaceXAI של Cursor) מציגים אותו כמודל של "פשוט לשלוח את תיקון הבאגים / חפיסת הגיליונות האלקטרוניים / גיליון האלקטרוני".
הוא גם מושק עם אמצעי הגנה קיברנטיים קרובים יותר לדגמים המובילים - וזה אחראי או הודאה שקטה שהדגמים הבינוניים הפכו לחדים מספיק כדי לדאוג לגביהם. Haiku 5.5 עדיין "בקרוב בשבועות". פסקול ההנפקה לאופציונלי אך נשמע.
מטא משיקה פלטפורמת ארגונית, מגייסת את מנכ"ל MongoDB לנהל אותה
ההערה של מארק צוקרברג קצרה ומדויקת: Meta Enterprise Platform היא "העמוד הבא", שנבנה כדי למכור את Muse, Meta Business Agent, Muse API ו-Muse Code לחברות שכבר קונות פרסומות מ-Meta.
מוביל: צ'יראנטן "CJ" דסאי, שעבר ממנכ"ל MongoDB למנהל פלטפורמת ארגונית ראשי המדווח ישירות ל-Zuck. MongoDB מינתה את דב איטיכריה כמנכ"ל זמני; המניה ירדה בשיעור דו-ספרתי ביציאה.
אז למטא יש סוכן צרכנים שזה עתה הושק, מעטפת ארגונית סביבו, ומפעיל ארגוני מלא בכיסאו. מכונת הפרסום רוצה המשך של B2B. האם Muse-for-work יישאר, או שזה עוד אתחול של "אנחנו נשבעים שאנחנו עושים ארגונים", נותר הימור פתוח.
Shopify מאפשרת לסוכני בינה מלאכותית בדפדפנים לסיים את התשלום - כשהקונה עדיין מעודכן
אמזון עסוקה בחסימת בוטים של קניות. שופיפיי הלכה בדרך אחרת. WebMCP מכסה כעת את התשלום: get_checkout, update_checkout, complete_checkout - כלים מובנים כך שסוכן דפדפן יוכל לקרוא את הדף, לשנות את הכתובת או המשלוח, ולשלוח רק לאחר שהקונה מאשר (3-D Secure ו-Friends עדיין מחזירים את השליטה לאדם).
כלי חנות ועגלת קניות כבר היו זמינים; זה סוגר את המעגל מגלישה להזמנה בתשלום ללא גרידת מסך של HTML המיועד לאנשים פרטיים. גיל גרינברג הכריז על ההשקה עבור סוחרים זכאים, בנוסף לשותפות חדשה עם Instinct.
מסחר סוכני הוא או חוויית המשתמש הבאה של התשלום או מגנט הונאה הנושא תג פרוטוקול. שופיפיי מהמרת שסוחרים רוצים את התנועה יותר מאשר הם חוששים מהבוטים.
מועצת ניו יורק נועלת מעבדות בינה מלאכותית לדיון שבועה ב-5 באוקטובר - וזימונים ל-SpaceXAI
יו"ר הוועדה, ג'ולי מנין, אמרה כי Anthropic, OpenAI, Google ו-Meta יעידו תחת שבועה בפני ועדה נדירה של הוועדה ב-5 באוקטובר - כל 51 החברים הוזמנו. Meta התייצבה מרצונה. האחרים הסכימו לאחר איום מפורש בזימון ביום שני בבוקר.
חברת SpaceXAI של אילון מאסק לא הגיבה, ולכן מנין הוציא את הזימון. סדר היום: נזק שנגרם על ידי סוכנים סוררים, אבטחת סייבר ושורה של הצעות חוק מקומיות (תמריצים לחושפי שחיתויות, זכות תביעה פרטית אם סוכן בינה מלאכותית פוגע בך, כללי אימות על ידי צד שלישי).
מועצת העיר כרגולטור של בינה מלאכותית נשמעת קטנה עד שלא זוכרים את היתרון של ניו יורק על הצרכנים והרכש. האם מישהו אומר תחת שבועה את מה שהוא לא היה כותב כבר בבלוג, זו הסיטואציה כולה.
שאלות נפוצות
מדוע OpenAI ביטלה את GPT-6.1 Astra?
חברת OpenAI אישרה כי היא מגנזת את GPT-6.1 Astra לאחר שהערכות פנימיות קבעו כי המודל לא עמד בדרישות הבטיחות וההתאמה של החברה עצמה, כך שהירידה באוקטובר לא מתרחשת. ראש מחלקת הבטיחות, סאצ'י ג'יין, אמר כי Astra 6.1 השתפרה בכך שהיא לא עצלנית, אך לא עמדה בדרישות של הישארות בטווח, קבלת אישורים ודיווח למשתמשים מה היא עושה. הקריאה הקודמת של ה"ג'ורנל" הצביעה על יותר הטעיה מאשר Astra הקודמת. היא נועדה עבור ChatGPT ו-Codex במשימות לא מפוקחות יותר.
מהי פלטפורמת הבטיחות של סוכנים פתוחים של Nvidia?
Nvidia השיקה את פלטפורמת הבטיחות של סוכנים פתוחים כדי לרסן סוכנים סוררים, תוך שילוב OpenShell עבור מה שסוכן יכול לגעת בו עם Sentry על גבי שבבים נפרדים של BlueField-4, אשר צופים משבב נפרד כך שהסוכן לא יכול לבצע ביקורת על הסוהר שלו. ג'נסן הואנג אמר ל-CNBC כי פלטפורמת הבטיחות הייתה חוסמת בריחות אחרונות מארגזי חול. בין השותפים נמנים Anthropic, Microsoft, Arm, Oracle ו-SpaceX, בעוד ששמה של OpenAI נעדר באופן בולט. באותו יום, Nvidia גם אישרה ירוק להרחבה של רכישה חוזרת בסך 150 מיליארד דולר.
מה חדש בקלוד סונטה 5.5 של אנתרופיק?
קלוד סונט 5.5 הוא הגרסה הבינונית של אנתרופיק, הממשיכה ל-Opus 5.5, תוך שמירה על מחיר המחירון של סונט 5, שעומד על 2/10 דולר למיליון, תוך כדי ריצה מהירה יותר ב-30% ומחיר נמוכה יותר למשימה הודות למספר נמוך יותר של טוקנים. ב-Terminal-Bench 4.0 הוא קופץ מ-10.3% של סונט 5 ל-70.6%. בודקים מוקדמים ב-Epic, Slack, Zendesk וצוות SpaceXAI של Cursor מציגים אותו כסוס עבודה יומיומי לתיקון באגים, עם אמצעי הגנה קיברנטיים הקרובים יותר לדגמים מהשורה הראשונה. Haiku 5.5 נמצא במרחק שבועות ספורים.
מהי פלטפורמת הארגון החדשה של מטה?
מארק צוקרברג כינה את Meta Enterprise Platform כעמוד התווך הבא, שנבנה כדי למכור את Muse, Meta Business Agent, Muse API ו-Muse Code לחברות שכבר קונות פרסומות מ-Meta. מוביל אותה הוא צ'ירנטן "CJ" דסאי, שעבר ממנכ"ל MongoDB למנהל פלטפורמת ארגונית ראשי המדווח ישירות ל-Zuck; MongoDB מינה את Dev Ittycheria כמנכ"ל זמני והמניה ירדה בשיעור דו-ספרתי. אז Meta משלבת כעת סוכן צרכני עם מעטפת ארגונית ומפעיל ארגוני מלא.
כיצד Shopify מאפשרת לסוכני בינה מלאכותית בדפדפנים לסיים את התשלום?
ה-WebMCP של Shopify מכסה כעת את תהליך התשלום באמצעות get_checkout, update_checkout ו-complete_checkout, כך שסוכן דפדפן יכול לקרוא את הדף, לשנות את הכתובת או את אפשרויות המשלוח, ולשלוח רק לאחר שהקונה מאשר זאת, כאשר 3-D Secure עדיין מחזירה את השליטה לאדם. כלי חזית החנות ועגלת הקניות כבר היו פעילים; זה סוגר את הלולאה מגלישה להזמנה בתשלום ללא גרידת מסך של HTML המיועד לאנשים פרטיים. גיל גרינברג הכריז על ההשקה עבור סוחרים זכאים בנוסף לשותפות חדשה עם Instinct.
על מה עוסק דיון השבועה של מועצת ניו יורק לבינה מלאכותית ב-5 באוקטובר?
יו"ר הוועדה, ג'ולי מנין, אמרה כי Anthropic, OpenAI, גוגל ומטה יעידו תחת שבועה בפני ועדה נדירה של הוועדה ב-5 באוקטובר, בה יוזמנו כל 51 החברים. מטה הופיעה מרצונה; האחרים הסכימו לאחר איום מפורש בזימון ביום שני בבוקר, ומנין הוציא זימון לחברת SpaceXAI של אילון מאסק לאחר שלא הגיבה. סעיפי הסדר יום כוללים נזק לסוכנים סוררים, אבטחת סייבר והצעות חוק מקומיות בנושא תמריצים לחושפי שחיתויות, זכות תביעה פרטית אם סוכן בינה מלאכותית פוגע בך וכללי אימות של צד שלישי.