OpenAI תשהה חלק מהעבודה על מודל הבינה המלאכותית Astra עקב חששות ביטחוניים ↗
OpenAI עוצרת את העבודה הפנימית על Astra שאינה עומדת בדרישות אבטחה מחמירות יותר לאחר שהערכות הצביעו על כך שיכולות הסייבר שלה עשויות לחצות סף "קריטי". על פי הדיווחים, הסוכן יכול למצוא ולנצל פגיעויות ללא התערבות אנושית, או לבצע התקפות ממטרה ברמה גבוהה. כן... זה קו די רציני לחצות.
החברה מהדקת את הבדיקות המבודדות, הגישה לרשתות ולכלים, הגנה על משקל המודל, ההצפנה והניטור. אסטרה לא הייתה מעורבת בתקרית "הפנים המחבקות" הקודמת של OpenAI, אך הדפוס הרחב יותר של סוכנים אוטונומיים יותר ויותר הופך את הבלימה לדאגה גדולה הרבה יותר. (מקור: הגרדיאן)
אפל אומרת שמשתמשי מק בסין יכולים להתחבר לשירות הבינה המלאכותית Qwen של עליבאבא ↗
משתמשי מק בסין היבשתית יכולים כעת לחבר את Qwen של עליבאבא לסירי ולכלי הכתיבה של אפל. משמעות הדבר היא תגובות מפורטות יותר בתוספת ניתוח מסמכים ותמונות, לצד יצירת טקסט ותמונות מתיאורים.
למען האמת, זהו שילוב מעניין - אפל מקבלת נתיב תואם מקומי לתכונות בינה מלאכותית חזקות יותר בשוק מחשבים תחרותי מאוד, בעוד ש-Alibaba משלב את Qwen עמוק הרבה יותר במערכת האקולוגית של מישהו אחר. אפל אומרת שחומר שנשלח דרך ההרחבה לא יכול לשמש את Alibaba לאימון המודלים שלה. (מקור: רויטרס)
גוגל דיפמיינד נכנסת לעידן חדש כאשר המייסד השותף דמיס האסאביס משנה את תפקידו בתחום הבינה המלאכותית ↗
דמיס חסאביס מוותר על הניהול היומיומי של DeepMind, הופך ליו"ר ובמקביל לוקח על עצמו את תפקיד המדען הראשי באלפבית. עמיתו הוותיק קוראי קבוקג'וגלו לוקח על עצמו את השליטה התפעולית כסגן נשיא בכיר במקום מנכ"ל - שינוי עדין בתואר שאומר לא מעט.
השינוי במיזם נופל לצד עזיבות של חוקרים גדולים אחרים ושאלות האם DeepMind הופכת פחות עצמאית ונספגת יותר במכונת הבינה המלאכותית המסחרית של גוגל. גוגל חולקת על כך שהשינוי קשור לביצועים התחרותיים של ג'מיני. (מקור: הגרדיאן)
מספר הולך וגדל של ילדים בבריטניה מדווחים על ראיית דיפ-זיופים מפורשים של עצמם ↗
דיווחים מילדים בבריטניה על תמונות מזויפות או מניפולטיביות של עצמם זינקו. Report Remove קיבלה 420 דיווחים תוך שישה חודשים בלבד, וכבר עברה את הסכום השנתי המלא הקודם שלה שעמד על 397. כלי "עירום" המופעלים על ידי בינה מלאכותית הופכים את הבעיה לקלה להפליא להרחבה.
קרן האינטרנט למעקב טוענת שתמונות מניפולטיביות רבות שדווחו היו חמורות מספיק כדי לחצות את סף ההיכר של חומר התעללות מינית בילדים. חלק מהקורבנות היו גם מטרה לביצוע סקס, מה שהופך תמונה שנוצרה על ידי בינה מלאכותית לנשק מוחשי מאוד. (מקור: הגרדיאן)
סקר מגלה שתכונות הבינה המלאכותית עולות על הערך העסקי ↗
חברות תוכנה ארגוניות מייצרות תכונות של בינה מלאכותית, אך הלקוחות לא בהכרח משתמשים בהן. בסקר שנערך בקרב יותר מ-260 עסקי תוכנה אנכיים, 51% אמרו שפחות מרבע מלקוחותיהם משתמשים ביכולות הבינה המלאכותית שבנו. קצת מביך אחרי כל המשלוחים האלה...
צוואר הבקבוק נראה פחות כמו יכולות בינה מלאכותית ויותר כמו אינטגרציה, אבטחה, פרטיות, שינויים בזרימת עבודה והוכחת ערך עסקי קונקרטי. תופעה ייחודית במיוחד היא "tokenmaxxing" - צריכה רבה של בינה מלאכותית שנראית מרשימה בלוח מחוונים ללא ראיות ברורות לכך שהיא מניבה תוצאות טובות יותר. (מקור: פורבס)
בינה מלאכותית משנה את העבודה מהר יותר ממה שהנתונים יכולים לעמוד בקצב ↗
הוויכוח על משרות בתחום הבינה המלאכותית הולך ונעשה סבוך יותר, לא ברור יותר. מחקר שכלל יותר מ-21,000 חברות אמריקאיות מצא כי המאמצים הכבדים ביותר של בינה מלאכותית הגדילו את מספר העובדים הכולל ב-10% ואת גיוס העובדים ברמת הכניסה ב-12%, בעוד שמאמצים פחות אינטנסיביים לא הראו צמיחה במספר העובדים.
אבל מחקרים אחרים מצאו לחץ תעסוקתי בקרב עובדים צעירים יותר בתפקידים החשופים לבינה מלאכותית, וכלכלנים מזהירים שחברות צומחות עדיין יכולות לגייס עובדים בעוד שבינה מלאכותית משנה מקצועות בכלכלה הרחבה יותר. אז, בינה מלאכותית הורגת מקומות עבודה ויוצרת אותם... או כך לפחות מערכי הנתונים הסותרים היו רוצים שתאמינו. (מקור: Fortune)
שאלות נפוצות
מהן ההתפתחויות הגדולות ביותר בחדשות הבינה המלאכותית כרגע?
חדשות אחרונות בתחום הבינה המלאכותית מצביעות על מספר נושאים חופפים: יכולות אוטונומיות חזקות יותר, בקרות אבטחה הדוקות יותר, שילובי פלטפורמות עמוקים יותר, שינויים בהנהלה, סיכוני בטיחות מקוונים וערך עסקי לא ודאי. OpenAI מהדקת את אמצעי ההגנה סביב Astra, Apple מחברת את Qwen למחשבי מק בסין, ו-DeepMind משנה הנהלה. במקביל, גוברים החששות סביב Deepfakes, אימוץ ארגוני והשפעת הבינה המלאכותית על התעסוקה.
מדוע OpenAI השהתה חלק מהעבודה על Astra?
דווח כי OpenAI השהתה את עבודתה הפנימית של Astra שלא עמדה בדרישות האבטחה המחמירות יותר לאחר שהערכות הצביעו על כך שיכולות הסייבר של המודל הגיעו לרמה קריטית. החשש הוא שסוכן מתקדם עלול לגלות ולנצל פגיעויות עם התערבות אנושית מוגבלת או ללא התערבות אנושית כלל. בתגובה, OpenAI מחזקת בדיקות מבודדות, בקרות גישה, הצפנה, ניטור והגנות סביב משקלי מודל.
כיצד תעבוד עליבאבא קוון עם מחשבי מק של אפל בסין?
משתמשי מק בסין היבשתית הזכאים יכולים לחבר את שירות Qwen של עליבאבא לסירי ולכלי הכתיבה של אפל. האינטגרציה יכולה לתמוך בתגובות מפורטות יותר, ניתוח מסמכים ותמונות ויצירת טקסט או תמונות מתיאורים. עבור אפל, ההסדר מספק נתיב תואם מקומית לפונקציונליות חזקה יותר של בינה מלאכותית, בעוד שעליבאבא מקבלת גישה עמוקה יותר למערכת האקולוגית של אפל. אפל אומרת שלא ניתן להשתמש בחומר שהוגש כדי לאמן את המודלים של עליבאבא.
מה המשמעות של שינוי ההנהגה של DeepMind עבור הבינה המלאכותית של גוגל?
דמיס חסאביס מתרחק מתפקיד המנהיגות היומיומית של דיפמיינד, ובמקביל הופך ליו"ר ונוטל על עצמו את תפקיד המדען הראשי באלפבית. קוראי קבוקוגלו ייקח על עצמו את השליטה התפעולית כסגן נשיא בכיר. השינוי מעלה שאלות האם דיפמיינד הופכת לחלק הדוק יותר מפעילות הבינה המלאכותית המסחרית הרחבה יותר של גוגל, אם כי גוגל חולקת על הטענות שהשינוי קשור לביצועים התחרותיים של ג'מיני.
מדוע זיופים עמוקים של בינה מלאכותית הופכים לדאגה גדולה יותר לבטיחות ילדים?
כלי מניפולציה של תמונות המופעלים על ידי בינה מלאכותית יכולים להקל על יצירת תמונות מזויפות ריאליסטיות ומפורשות בקנה מידה גדול. ילדים בבריטניה מדווחים יותר ויותר על תמונות מניפולטיביות או מפוברקות של עצמם, וחלק מהמקרים היו חמורים מספיק כדי לעמוד בסף של חומר התעללות מינית בילדים. תמונות אלו יכולות לשמש גם למטרות סקס, כלומר תמונה מפוברקת עדיין עלולה לגרום נזק תדמיתי, רגשי וכלכלי משמעותי.
האם עסקים ועובדים כבר נהנים מבינה מלאכותית?
החדשות האחרונות בתחום הבינה המלאכותית מצביעות על כך שהתשובה מעורבת. חברות תוכנה רבות מוסיפות תכונות של בינה מלאכותית מהר יותר מהלקוחות מאמצים אותן, כאשר אינטגרציה, פרטיות, אבטחה וערך עסקי מדיד נותרו חסמים עיקריים. נתוני תעסוקה מורכבים באופן דומה: חלק מהחברות עם אימוץ נרחב של בינה מלאכותית מרחיבות את גיוס העובדים, בעוד שמחקרים אחרים מצביעים על לחץ על עובדים צעירים יותר בתפקידים החשופים לבינה מלאכותית. ההשפעה הכוללת תלויה במידה רבה בתעשייה, בזרימת העבודה ובאופן יישום הבינה המלאכותית.