יועצי טראמפ אומרים לחברות בינה מלאכותית כי לא יבצעו בדיקות בטיחות לדגמים במשקל פתוח, אומרים מקורות ↗
ממשל טראמפ אמר לחברות בינה מלאכותית מובילות כי לא יבחן את הבטיחות של מודלים במשקל פתוח, על פי מקורות המעורים בדיונים. זה משאיר חלק משמעותי למדי בהערכת הסיכונים מחוץ למסגרת הממשלתית.
בפועל, ייתכן שמפתחים ומשתמשים יצטרכו לשאת באחריות רבה יותר להערכת מודלים לפני שחרור או פריסה. אולי ידידותי לחדשנות... אבל התזמון לא נוח, שכן מודלים פתוחים הופכים ליכולתיים יותר בקצב מהיר. (רויטרס)
מודלים של בינה מלאכותית במשקל פתוח מדביקים את הפער. פער הבטיחות נותר בעינו. ↗
על פי הדיווחים, ה-GLM-5.2 של Z.ai נמצא רק חודשים מאחורי המודלים הסגורים המובילים ביכולות סייבר וביולוגיות. בדיקות של SaferAI מצאו כי הוא סירב לאף אחת ממשימות הסייבר ההתקפיות או הביולוגיה הדו-שימושיות שהוצגו בפניו.
מודלים סגורים יכולים להסתמך על אימון סירוב, מסווגים ובקרות API. משקלים להורדה הם יצור אחר - לאחר שחרורם, ניתן לשנות או להסיר אמצעי הגנה, מה שגורם לפער הבטיחות להרגיש בצורת קניון באופן מובהק. (TechCrunch)
סמסונג אלקטרוניקה משיקה את טכנולוגיית הזיכרון של הדור הבא של בינה מלאכותית ↗
סמסונג חשפה אב טיפוס של BV-NAND עם יותר מ-400 שכבות ועיצוב חדש של קשירת פרוסות (wafer bonding). החברה טוענת שהוא מספק צפיפות זיכרון גדולה בכ-58% מהדור הקודם שלו, לצד ביצועי קריאה, כתיבה וקלט-פלט מהירים יותר.
סמסונג גם תיארה זיכרון zHBM מוערם אנכית הממוקם מעל מאיצי בינה מלאכותית. היא טוענת שהארכיטקטורה יכולה להציע צפיפות גדולה פי עשרה מזו של HBM5 קונבנציונלי, לשלש את יעילות האנרגיה ולהפחית משמעותית את ההתנגדות התרמית - הבטחות משמעותיות, בלשון המעטה. (רויטרס)
מרוץ מרכזי הנתונים של בינה מלאכותית יוצר נטל חכירה של טריליון דולר עבור חברות הטכנולוגיה הגדולות ↗
מיקרוסופט, מטה, אורקל, אמזון ואלפבית התחייבו לכ-1.09 טריליון דולר לחוזי שכירות שטרם החלו, בעיקר עבור מרכזי נתונים של בינה מלאכותית. התחייבויות אלו הן כמעט פי ארבעה מהתחייבויות השכירות המוכרות שלהן.
הקיבולת עלולה להניע את פריחת הענן הבאה. או, באופן פחות עליז, לגרום לחברות לשלם עבור מתקנים עצומים אם הביקוש לבינה מלאכותית יאכזב - מעיל של טריליון דולר שנרכש לפני שמישהו בדק את מזג האוויר. (רויטרס)
אנתרופיק חותמת על עסקה של 10 מיליארד דולר עם סטארט-אפ ענן בתחום הבינה המלאכותית וולטה ↗
על פי הדיווחים, אנתרופיק הסכימה לרכוש קיבולת מחשוב בשווי 10 מיליארד דולר מחברת הסטארט-אפ הענן וולטה, המציעה בינה מלאכותית, במשך שש שנים. העסקה תתמוך במרכז נתונים נורווגי המציע קיבולת של 133 מגה-וואט.
חברת כריית הקריפטו Bitdeer צפויה לסייע בפיתוח המתקן, שישתמש במערכות Vera Rubin של Nvidia. Anthropic אוספת שותפויות מחשוב כמו מגנטים למקרר - אלא שהמגנטים האלה עולים מיליארדים. (TechCrunch)
הבנק העולמי אומר כי בינה מלאכותית מציעה "קו הצלה" לכלכלות מתפתחות ↗
הבנק העולמי אומר שבינה מלאכותית יכולה לאפשר לכלכלות מתפתחות לדחוס מאה שנה של קידמה לעשור, בתנאי שישפרו את החשמל, הקישוריות והמיומנויות הדיגיטליות. כלים קטנים יותר, המותאמים באופן מקומי, יוכלו לתמוך בבריאות, בחינוך, בחקלאות ובשירותים ציבוריים מבלי להזדקק למודלים לאומיים ענקיים.
הדו"ח שלה מעריך כי 4.5% מהמשרות במדינות בעלות הכנסה נמוכה ובינונית חשופות לבינה מלאכותית גנרטיבית, בהשוואה ל-14.2% בכלכלות עשירות יותר. למרות זאת, ההבטחה מגיעה עם אזהרות חדות בנוגע לאי-שוויון, מידע שגוי ודיכוי פוליטי - חבל הצלה עם כמה קשרים קשורים בו. (רויטרס)
שאלות נפוצות
מדוע ממשלת ארה"ב לא מבצעת בדיקות בטיחותיות של מודלים של בינה מלאכותית במשקל פתוח?
על פי המאמר, ממשל טראמפ הודיע לחברות בינה מלאכותית מובילות כי מודלים בעלי משקל פתוח לא ייכללו במסגרת בדיקות הבטיחות הממשלתיות שלו. עובדה זו מטילה אחריות רבה יותר על מפתחי מודלים, מפיצים ומשתמשים, אשר עשויים להידרש להעריך באופן עצמאי סיכונים בתחום הסייבר, הביולוגיה, השימוש לרעה והפריסה לפני שחרור או אימוץ מערכות אלו.
מדוע קשים יותר לאבטחת מודלים של בינה מלאכותית בעלי משקל פתוח מאשר מודלים סגורים?
ניתן להוריד, לשנות ולהפעיל מודלים של בינה מלאכותית במשקל פתוח מחוץ לתשתית של המפתח המקורי. כתוצאה מכך, אמצעי הגנה כגון אימון סירוב, מסווגים ובקרות גישה עשויים להיחלש או להיעלם. מודלים סגורים מסופקים בדרך כלל דרך ממשקי API מבוקרים, מה שנותן לספקים מרחב גדול יותר לנטר את השימוש, להגביל את הגישה ולעדכן הגנות לאחר הפריסה.
כיצד ארגונים צריכים להעריך מודלים של בינה מלאכותית בעלי משקל פתוח לפני פריסה?
גישה נפוצה היא לבחון את המודל מול תרחישים מציאותיים של שימוש לרעה, כולל משימות סייבר התקפיות, בקשות ביולוגיות דו-שימושיות וניסיונות לעקוף אמצעי הגנה. ארגונים צריכים גם לבחון כיצד המודל יאוחסן, מי יוכל לשנות אותו ואילו מערכות ניטור זמינות. פריסות בעלות סיכון גבוה יותר דורשות בדרך כלל בקרות גישה מחמירות יותר ופיקוח אנושי מתמשך.
מה טכנולוגיית הזיכרון החדשה של סמסונג בתחום הבינה המלאכותית שנועדה לשפר?
אב הטיפוס של BV-NAND של סמסונג משתמש ביותר מ-400 שכבות ועיצוב קשירת פרוסות (wafer-bonding) שנועד להגדיל את צפיפות הזיכרון תוך שיפור ביצועי הקריאה, הכתיבה והקלט-פלט. החברה תיארה גם זיכרון zHBM מוערם אנכית הממוקם מעל מאיצי בינה מלאכותית. עיצובים אלה נועדו להתמודד עם דרישות הקיבולת, האנרגיה והחום שנוצרות על ידי עומסי עבודה אינטנסיביים יותר ויותר של בינה מלאכותית.
מדוע חוזי שכירות של מרכזי נתונים של בינה מלאכותית של חברות הטכנולוגיה הגדולות נחשבים לסיכון פיננסי?
על פי הדיווחים, מיקרוסופט, מטה, אורקל, אמזון ואלפבית התחייבו לכ-1.09 טריליון דולר לחוזי שכירות שטרם החלו, חלק ניכר מהם קשור למרכזי נתונים של בינה מלאכותית. הקיבולת הנוספת עשויה לתמוך בצמיחה מהירה בביקוש לענן ובינה מלאכותית. עם זאת, ייתכן שהחברות עדיין חייבות תשלומים משמעותיים אם הביקוש יתפתח לאט מהצפוי או שהתשתית תישאר בלתי מנוצלת.
כיצד בינה מלאכותית יכולה להועיל לכלכלות מתפתחות?
הבנק העולמי טוען כי בינה מלאכותית יכולה לסייע לכלכלות מתפתחות לחזק את שירותי הבריאות, החינוך, החקלאות והשירותים הציבוריים, במיוחד באמצעות כלים קטנים יותר המותאמים לצרכים מקומיים. יתרונות אלה תלויים בחשמל אמין, גישה לאינטרנט ומיומנויות דיגיטליות. ממשלות חייבות גם לנהל סיכונים כמו אי שוויון, מידע שגוי ודיכוי פוליטי ככל שהאימוץ מתרחב.