"קוד ההתנהגות" החדש של מיקרוסופט בתחום הבינה המלאכותית אומר למודלים לא לפרוץ למערכות או להערים על בני אדם
אוקיי, אז מיקרוסופט ביטלה חוקה שלמה עבור המודלים שלה - כמו, קווים אדומים אמיתיים. בלי מתקפות סייבר. בלי חומרים גרעיניים. בלי מפעלי דיפפייק. והגדול: המודל לא רשאי להתחמק מסגירה.
הם קוראים לזה קוד מקיף שעוקף את כל מה שהקלדת בצ'אט. וזה... די מרענן. או שולט. אולי שניהם.
גם נאדלה כאן בחוץ, מהנהן יחד עם קהל "לצעוד בחזית". יציבה זהירה ומודעות לחלל האפל יכולות להיראות אותו הדבר מבחוץ; מיקרוסופט בוחרת לא להיות המעבדה שמושכת בכתפיה.
כך או כך, המסמך נקרא כאילו מישהו סוף סוף כתב "בבקשה אל תהפכו לאנטגוניסט של סרטי אימה" בפרוזה תאגידית.
דו"ח: OpenAI רוכשת את יצרנית מצלמות הסמארטפונים Glass Imaging תמורת 300 מיליון דולר
בינתיים, OpenAI רכשה בשקט סטארט-אפ של מצלמות תמורת יותר מ-300 מיליון דולר. Glass Imaging. חברת Glass Imaging נוסדה על ידי אנשים לשעבר של Apple Portrait Mode. אז זו לא רכישה אקראית - האנשים האלה שילמו עדשות, כפי שאנשים יודעים.
ההצעה אינה "בינה מלאכותית תתקן את הסלפי שלך בפוסט". אלא רשתות עצביות שלומדות את המצלמות הספציפיות בטלפון וסוחטות תמונות טובות יותר בלחיצת כפתור. חיישנים זעירים, אמביציה גדולה.
OpenAI לא הגיבה. כמובן. וכן - זה יושב ליד כל השמועות על חומרה, טלפונים ואוזניות וגאדג'טים נלווים. כמעט אפשר לשמוע מישהו אומר "Vision stack" בפגישה וכולם מהנהנים חזק מדי.
חברת מצלמות כחלק החסר במכשיר נותרה בגדר הימור פתוח - או סתם הימור יקר מאוד שפיקסלים עדיין חשובים כאשר צ'אטבוטים בולעים את העולם.
מניות הבינה המלאכותית העולמיות יורדות לאחר שראשי התעשייה קוראים להאטת הפיתוח
השווקים לא אהבו את דרשת הבטיחות. שמות השבבים ספגו מכה. סופטבנק ספגה פגיעה מוחלטת באסיה. ספר הטכנולוגיה של אירופה נרתע. מדד SOX עבר בוקר קשה.
הטריגר היה אותו רגע נדיר שבו מנכ"לים מסכימים על משהו - ה"האטה" של אמודיי, אלטמן ומאסק אומרים בעצם כן. אלטמן גם ציין ש-OpenAI לא תבצע הנפקה ראשונה השנה עקב חששות בטיחות... בעוד שאנתרופיק עדיין ממהרת לקראת אחת. קשה למחוק את המתח הזה.
טראמפ דחה זאת כ"קונספירציה חולה" נגד בינה מלאכותית ומרכזי נתונים. מייקל ברי דחה את האזהרות כרעש מוגזם. אז האווירה היא: אימה קיומית על ציר זמן אחד, ציניות של מניות ממים על השני.
וגם - שמות בתחום אבטחת הסייבר התאוששו. כי כמובן, הגידור מפני "בינה מלאכותית עלולה להשתגע" הוא "לקנות עוד תוכנות אבטחה". הקפיטליזם מוצא דרך..
חברות בינה מלאכותית מובילות דנו ביצירת גוף תקינה משלהן
CNN טוענת ש-Anthropic, Google ו-OpenAI מדברות על בניית גוף תקינה משלהן - כמו FINRA עבור מודלים של רשתות תקשורת עתידיות. Hassabis העלה את הרעיון לפני חודשים. כעת נראה כי קבוצות העבודה אמיתיות.
ממומן על ידי התעשייה. מומחים עצמאיים. בודקים דגמים מתקדמים לפני שהם נשלחים. שיחות מתמשכות האם וושינגטון רוצה להשתתף או לא.
ויסות עצמי תמיד נשמע אצילי עד שנזכרים שאותן מעבדות מתחרות זו בזו. אחר כך זה נשמע כמו מועדון עם קוד לבוש. ואז נסוגים: אוקיי, אולי מעריכים חיצוניים עם גישה כמו של עובד יעזרו.
לא כולם משוכנעים. צוקרברג, על פי הדיווחים, אמר לטראמפ לוותר על רעיון FINRA למען בינה מלאכותית. כך שלקואליציית "אנחנו נפקח על עצמנו" כבר יש אחיזה מפורסמת.
אנתרופיק מכוונת ליועצים פיננסיים בעזרת כלי חדש של קלוד
בעוד מחצית מהתעשייה מתלבטת אם ללחוץ על הבלמים, אנתרופיק העבירה את קלוד ליועצים פיננסיים. חברו לבלאקרוק, שוואב, אדפאר - בנוסף לערימת שמות עושר כמו אנבסטנט ואוריון.
הכנה לפגישה. סקירת תיק עבודות. המשך עבודה עמוסה. הדברים הלא זוהרים שעדיין אוכלים איכשהו את יום שלישי של בן אדם.
התזמון מרשים - ימים ספורים לאחר הדחיפה הפיננסית של OpenAI לבנקאים וחוקרים. אז כן, הם צועדים בחזית... וגם מתחרים על נתח ארנק RIA. סתירה קלה. קלה ביותר. ברורה ביותר.
אם היועץ שלך מתחיל להישמע רהוט באופן מחשיד לגבי האחזקות שלך, ובכן. עכשיו אתה יודע למה.
מנהיגי הבינה המלאכותית קוראים להאטה. צוותו של טראמפ אומר שהם אחראים
WIRED לוכדת את התקציר הפוליטי בצורה ברורה: ראשי מעבדות רוצים עזרה בהאטת הקצב; האווירה בבית הלבן היא "מגניב, תעשו זאת בעצמכם"
דיוויד סאקס בעצם אמר שאם הדוגמנים שלא פורסמו מפחידים אותך, תהיה אחראי - אבל תפסיק להעמיד פנים שאתה צריך ויתור על הגבלים עסקיים כדי להקים קרטל בטיחות. קשה. וגם קצת קשה להתווכח עם זה אם צפית בחברות האלה במשך חמש דקות.
הקו של טראמפ פשוט יותר: אמריקה מובילה את סין בתחום הבינה המלאכותית והוא רוצה לשמור על כך - "מי שמנצח בבינה מלאכותית, מנצח". יושב ראש בית הנבחרים ג'ונסון מזהיר כי ריצת חירום ברגולציה עלולה להפסיד את המירוץ.
אז התחייבותו של אלטמן ל"מעריכים עצמאיים עם גישה דמוית עובדים" נוחתת בפער המטריד הזה - בניית אמון מרצון בעוד הממשלה מושכת בכתפיה. קידמה ותיאטרון שוב נעים יחד.
שאלות נפוצות
מה אוסר קוד ההתנהגות החדש של מיקרוסופט בתחום הבינה המלאכותית?
מיקרוסופט פרסמה קוד התנהגות מקיף עם קווים אדומים עבור המודלים שלה, כולל איסור על מתקפות סייבר, איסור על עבודה גרעינית ואיסור על מפעלי דיפפייק. כלל מרכזי הוא שהמודל אינו רשאי לחמוק מסגירה. הקוד נועד לעקוף כל דבר שהמשתמש הקליד בצ'אט. גם סאטיה נדללה מהנהן יחד עם קהל הקוראים, כאשר מעבדות נעשות זהירות יותר בפומבי.
מדוע OpenAI רכשה את Glass Imaging תמורת כ-300 מיליון דולר?
על פי הדיווחים, OpenAI רכשה את יצרנית מצלמות הסמארטפונים Glass Imaging תמורת יותר מ-300 מיליון דולר. הסטארט-אפ נוסד על ידי מהנדסי Portrait Mode לשעבר של אפל, שפיתחו תכונות מצלמה שכבר מוכרות לאנשים. הרעיון שלהם הוא רשתות עצביות שלומדות מצלמות טלפון ספציפיות ומשפרות תמונות בלחיצת כפתור, ולא רק תיקוני בינה מלאכותית בצילום. העסקה מגיעה לצד שמועות על חומרה בנוגע לטלפונים, אוזניות וגאדג'טים נלווים, אם כי OpenAI לא הגיבה.
מדוע ירדו מניות הבינה המלאכותית העולמיות לאחר שמנכ"לי מעבדות קראו להאטה?
השווקים הגיבו בצורה גרועה לרגע הנדיר של הסכמה בין מנכ"לים, כאשר אמודיי קרא להאט את הפיתוח ואלטמן ומאסק הסכימו באופן כללי. שמות שבבים ספגו מכה, סופטבנק ספגה פגיעה באסיה, ספר הטכנולוגיה של אירופה נרתע, ובורסת SOX עברה בוקר קשה. אלטמן גם ציין כי OpenAI לא תבצע הנפקה ראשונה השנה עקב חששות בטיחות, בעוד ש-Anthropic עדיין ממהרת לקראת כזו. שמות אבטחת סייבר התאוששו כגידור מפני חשש מבינה מלאכותית נוכלת.
האם Anthropic, Google ו-OpenAI יוצרות גוף סטנדרטים משלהן לבינה מלאכותית?
CNN מדווחת כי Anthropic, גוגל ו-OpenAI דנו בבניית גוף לתקינה בתעשייה - כמו FINRA עבור דגמים מתקדמים - עם מימון מהתעשייה, מומחים עצמאיים ובדיקות טרום-משלוח של דגמים מתקדמים. דמיס חסאביס העלה את הרעיון לפני חודשים, וכעת, על פי הדיווחים, קבוצות עבודה קיימות. השיחות נמשכות בשאלה האם וושינגטון רוצה להשתתף. לא כולם משוכנעים: צוקרברג, על פי הדיווחים, אמר לטראמפ לוותר על רעיון FINRA עבור בינה מלאכותית.
מהו קלוד של אנתרופיק ליועצים פיננסיים?
אנתרופיק העבירה את קלוד ליועצים פיננסיים עם קישורים לחברות כמו BlackRock, Schwab, Addepar וחברות ענק כמו Envestnet ו-Orion. הכלי מכוון לעבודות יועצים לא זוהרות כמו הכנת פגישות, סקירת תיקי השקעות ומעקב אחר עבודה עמוסה. ההשקה מגיעה ימים ספורים לאחר הדחיפה הפיננסית של OpenAI לבנקאים וחוקרים. משמעות הדבר היא שמעבדות צועדות בחזית בפומבי ועדיין מתחרות על נתח ארנק RIA.
כיצד הגיב צוותו של טראמפ לקריאות מנהיגי הבינה המלאכותית להאטה?
WIRED מדווח שמנהלי המעבדות רוצים עזרה בהאטת הקצב, בעוד שבבית הלבן מצב הרוח הוא שהם צריכים לעשות זאת בעצמם. דיוויד סאקס אמר שאם מודלים שלא פורסמו מפחידים אתכם, היו אחראים - אבל תפסיקו להעמיד פנים שאתם צריכים ויתור על הגבלים עסקיים כדי להקים קרטל בטיחות. הקו הפשוט יותר של טראמפ הוא שאמריקה מובילה את סין בתחום הבינה המלאכותית ומי שינצח בבינה המלאכותית ינצח. יו"ר בית הנבחרים ג'ונסון מזהיר כי ריצת חירום ברגולציה עלולה להפסיד את המירוץ, ולהשאיר את התחייבותו של אלטמן כמעריך עצמאי בפער וולונטרי.