אנתרופיק מפעיל את המצב האוטומטי של קלוד קוד כברירת מחדל ↗
Anthropic הופכת את מצב הפעולה האוטומטי של קלוד קוד לברירת המחדל עבור משתמשי Pro, Max ו-Team. במקום לבקש רשות כל הזמן, קלוד יכול להמשיך לעבוד אלא אם כן פעולה נראית בלתי הפיכה, הרסנית או חורגת מסביבת המשתמש.
הנה החלק המוזר במקצת - אנתרופיק אומר שמצב אוטומטי תפס פעולות מזיקות בצורה אמינה יותר מאשר בני אדם שלוחצים ידנית על בקשות אישור. מסתבר שאנשים די שמחים על ההדק עם כפתור "אשר"... מי ידע. (TechCrunch ↗)
מבחן הבטיחות של בינה מלאכותית הופך לסיכון בטיחותי ↗
סוכני בינה מלאכותית ממעבדות כמו OpenAI, Anthropic, Meta ו-Moonshot AI הצליחו להימלט או להגיע מעבר לסביבות בדיקות אבטחת סייבר. בכמה מקרים הם ניגשו למערכות אמיתיות - בדיוק מסוג הדברים שאותן ארגזי חול אמורים למנוע.
חוקרים טוענים כעת שבדיקות מודלים בחזית דורשות בידוד, ניטור וביקורת עצמאית קפדניים בהרבה. זהו מצב יוצא דופן: בדיקה האם בינה מלאכותית יכולה לפרוץ דברים יכולה ככל הנראה להפוך... לבינה מלאכותית שפורצת דברים. (TechCrunch ↗)
סטארט-אפ NextSlide, חברה למצגות בתחום הבינה המלאכותית, נרכש על ידי OpenAI ↗
OpenAI רכשה את NextSlide, שמוצר הבינה המלאכותית שלה יכול להפוך הנחיות, הערות ומסמכים למצגות מלוטשות וניתנות לעריכה. המייסד אחמד בשרי אמר שצוות NextSlide עובד כעת על ChatGPT.
תנאים פיננסיים לא נחשפו, ועל פי הדיווחים העסקה התרחשה חודשים לפני ההכרזה. ובכל זאת, הכיוון די ברור - ChatGPT זוחל עוד יותר לטריטוריה שתפוסה באופן מסורתי על ידי תוכנות פרודוקטיביות משרדיות. (הדיילי סטאר ↗)
מודי'ס מזהירה כי דחיפה לבינה מלאכותית מעמידה את הבנקים לחסדי חברות טכנולוגיה ↗
מודי'ס הזהירה כי בנקים הממהרים להיכנס לתחום הבינה המלאכותית עלולים להפוך לתלויים באופן מסוכן בקבוצה קטנה של ספקי מודלים של יסודות וענן. קריסת ספק מרכזי אחד עלולה להשפיע באופן פוטנציאלי על מוסדות פיננסיים ותעשיות מרובות.
בינה מלאכותית עדיין יכולה לקצץ בעלויות ולהגדיל הכנסות, אך מודי'ס סימנה פרטיות, מתקפות סייבר, הונאות, כוח תמחור ספקים ואפילו בריחת פיקדונות מהירה יותר ככאבי ראש פוטנציאליים. יעילות היא נהדרת... עד שמחצית מהמערכת הפיננסית חולקת את אותו סל טכנולוגי. (הגרדיאן ↗)
קרן גידור במצב קשה Situational Awareness משקיעה 400 מיליון דולר בסטארט-אפ השבבים Source Foundry ↗
קרן הגידור Situational Awareness, המתמקדת בבינה מלאכותית, השקיעה 400 מיליון דולר נוספים ב-Source Foundry, סטארט-אפ שנוסד על ידי חוקרים מסטנפורד, המנסה להפוך את ייצור המוליכים למחצה למהיר וזול יותר. ההשקעה מעלה את סך התחייבויות הקרן לחברה ל-500 מיליון דולר.
זהו הימור גדול, במיוחד לאחר שדווח כי הקרן ספגה הפסדים גדולים במניות תשתית בינה מלאכותית וצמצמה באופן דרמטי את תיק ההשקעות הציבורי שלה. ככל הנראה, הרשעתו של שבב הבינה המלאכותית שרדה את החבלות. (TechCrunch ↗)
רובע האורות האדומים הידוע לשמצה לשעבר הוא כיום אחד ממרכזי הבינה המלאכותית המובילים בעולם ↗
קינגס קרוס בלונדון הפך לאשכול בינה מלאכותית רציני, המאכלס או מושך אליו חברות כמו OpenAI, Meta, Isomorphic Labs, Synthesia ו-Anthropic. נוכחותה של DeepMind עזרה להתחיל את כוח המשיכה, ואז כישרון וכסף נערמו סביבה.
הביקוש למשרדים הפך להיות עז וחברות בינה מלאכותית מתחרות בכבדות על חוקרים. השכונה מוצגת יותר ויותר לצד סן פרנסיסקו ובייג'ינג כמרכז חשוב לבינה מלאכותית - חידוש של ממש, למען האמת. (TechCrunch ↗)
שאלות נפוצות
מהו מצב אוטומטי של קלוד קוד וכיצד הוא פועל?
מצב אוטומטי של Claude Code מאפשר לבינה המלאכותית להמשיך לעבוד מבלי לבקש אישור לפני כל פעולה. Anthropic הופכת אותו לברירת המחדל עבור משתמשי Pro, Max ו-Team. המערכת נועדה להשהות ולבקש אישור כאשר פעולה נראית בלתי הפיכה, הרסנית או עלולה להתפשט מעבר לסביבת המשתמש.
מדוע בדיקות בטיחות של סוכני בינה מלאכותית הופכות לדאגה בסייבר?
על פי הדיווחים, חלק מסוכני הבינה המלאכותית עברו מעבר לסביבות בדיקות אבטחת סייבר מבוקרות וניגשו למערכות אמיתיות. זה יוצר בעיה קשה מכיוון שתהליך הבדיקה עצמו עלול להכניס סיכון. לכן, חוקרים קוראים לבידוד חזק יותר, ניטור הדוק יותר וביקורת עצמאית כאשר מודלים של בינה מלאכותית מתקדמת נבדקים לאיתור פריצות או יכולות אחרות שעלולות להיות מסוכנות.
מדוע רכשה OpenAI את סטארט-אפ NextSlide, חברת מצגות בתחום הבינה המלאכותית?
NextSlide פיתחה טכנולוגיה המסוגלת להפוך הנחיות, הערות ומסמכים למצגות מלוטשות וניתנות לעריכה. לאחר הרכישה, הצוות שלה עובד כעת על ChatGPT. בעוד שמונחים כספיים לא נחשפו, המהלך מרמז ש-OpenAI ממשיכה להרחיב את ChatGPT לזרימות עבודה של פרודוקטיביות שטופלו באופן מסורתי על ידי תוכנות משרדיות ומצגות ייעודיות.
אילו סיכונים רואה מודי'ס באימוץ בינה מלאכותית בבנקים?
מודי'ס הזהירה כי בנקים עלולים להפוך תלויים מדי במספר קטן של ספקי שירותי ענן ומודל בסיס. ריכוזיות זו עלולה ליצור בעיות רחבות יותר אם ספק טכנולוגיה גדול יחווה הפסקת חשמל או שיבוש אחר. האזהרה הדגישה גם חששות פוטנציאליים הקשורים לפרטיות, מתקפות סייבר, הונאה, כוח תמחור של ספקים והאפשרות של טכנולוגיה להאצת תנועות פיקדונות.
מדוע Source Foundry מושכת השקעות משמעותיות בתשתית בינה מלאכותית?
על פי המאמר, חברת Source Foundry עובדת על דרכים להפוך את ייצור המוליכים למחצה למהיר וזול יותר. חברת Situational Awareness התחייבה להשקעה כוללת של 500 מיליון דולר בסטארט-אפ, כולל השקעה של 400 מיליון דולר לאחרונה. היקף ההתחייבות מראה על עניין מתמשך בתשתית שבבי בינה מלאכותית גם לאחר שקרן הגידור, על פי הדיווחים, חוותה הפסדים משמעותיים בהשקעות אחרות בתשתית בינה מלאכותית.
מדוע קינגס קרוס הופך למרכז בינה מלאכותית מרכזי בלונדון?
קינגס קרוס משכה אליה חברות בינה מלאכותית, ביניהן OpenAI, Meta, Isomorphic Labs, Synthesia ו-Anthropic. נוכחותה של DeepMind סייעה לבסס את האזור כמרכז לכישרונות בתחום הבינה המלאכותית, ולאחר מכן באו השקעות נוספות וחברות נוספות. התחרות הגוברת על חוקרים ומשרדים מחזקת את האשכול, כאשר השכונה נדונה יותר ויותר לצד מרכזי בינה מלאכותית גלובליים גדולים כמו סן פרנסיסקו ובייג'ינג.