🦞 מייסד OpenClaw, שטיינברגר, מצטרף ל-OpenAI, בוט קוד פתוח הופך לקרן ↗
פיטר שטיינברגר פונה ל-OpenAI כדי לקדם "סוכנים אישיים", בעוד ש-OpenClaw עצמה חונה בקרן כך שתישאר בקוד פתוח (ותתמך). הפיצול הזה... די חכם - שכרו את הקבלן, שמרו על הפרויקט ציבורי.
ההצעה של OpenClaw מרעננת ומעשית: מיון דוא"ל, ניירת ביטוח, צ'ק-אין לטיסות, משימות ניהול מטרידות. היא גם מפוצצת ב-GitHub, והפופולריות הזו גררה דאגות אבטחה, במיוחד אם אנשים פורסים אותה ברשלנות.
🪖 דיווח: הפנטגון "מאס" מההתנגדות האנתרופית לשימוש במודל הבינה המלאכותית של קלוד על ידי הצבא, ועשוי לנתק את הקשרים עם הארגון ↗
המאבק המרכזי: הפנטגון רוצה גישה רחבה, "לכל מטרה חוקית", ואנתרופיק עדיין מנסה לשמור על מגבלות נוקשות סביב נשק אוטונומי לחלוטין ומעקב המוני. זהו סוג המחלוקת שנשמעת פילוסופית עד שמישהו אומר, "אולי נחליף אותך"
קמט אחד שלא מוערך מספיק - פקידים לא רוצים שהמודל יחסום פתאום זרימות עבודה באמצע, והם לא רוצים לנהל משא ומתן על תיקי קצה לנצח (הוגן... אבל גם איכס). יש כאן מתח אמיתי של "מי מחזיק את המפתחות", והוא לא עדין.
🧠 סטארט-אפ בונה מודל לחיזוי התנהגות אנושית ↗
סימיל גייסה 100 מיליון דולר כדי לבנות מודל "למידה מוגבלת" שמטרתו לחזות מה אנשים עשויים לעשות - כולל, באופן ספציפי מאוד, חיזוי שאלות אפשריות בדברים כמו שיחות דוחות כספיים. יעד צר, אמביציה גדולה, שילוב מעט מפחיד.
הגישה נשענת על ראיונות עם אנשים אמיתיים בתוספת נתוני מחקר התנהגותי, ולאחר מכן מריץ סימולציות עם סוכני בינה מלאכותית שנועדו לשקף העדפות אמיתיות. זה כמו ליצור מודל מזג אוויר עבור החלטות אנושיות... מה שנשמע בלתי אפשרי עד שזה לא.
🧑⚖️ סקופ: הבית הלבן לוחץ על מחוקק ביוטה לבטל את הצעת חוק השקיפות של בינה מלאכותית ↗
דחיפה לשקיפות בבינה מלאכותית ברמת המדינה ביוטה סופגת ביקורת ישירה מצד הבית הלבן, כאשר גורמים רשמיים קוראים ליוזם החוק לא לקדם אותו. ניסוח החוק עוסק כולו בשקיפות ובבטיחות ילדים - קשה להתווכח עם זה מבחינה אופטית גרידא.
אבל המאבק הגדול יותר הוא עניין של סמכות שיפוטית: מי קובע את הכללים, המדינות או הממשלה הפדרלית. וכן, זו נהמה - כמו שני אנשים שאוחזים באותו הגה ומתעקשים שהם הרגועים.
🎬 ByteDance מתחייב למנוע שימוש בלתי מורשה ב-IP בכלי וידאו של בינה מלאכותית לאחר איום של דיסני ↗
דיסני שלחה הצהרת הפסקת פעולה בנוגע לגנרטור הווידאו הבינה המלאכותית של ByteDance, וב-ByteDance אומרת שהיא מחזקת את אמצעי ההגנה כדי למנוע שימוש לא מורשה בקניין רוחני ובדמיון. התלונה - לכאורה - היא שהכלי יכול לירוק דמויות מוכרות של הזיכיון כאילו הן סתם... מדבקות של נחלת הכלל.
זוהי ההתנגשות שכולם צפו לה: כלי וידאו ויראליים של בינה מלאכותית מתקדמים במהירות, אולפנים מתדיינים, ו"נוסיף אמצעי הגנה" הופך לשפת ההתנצלות המוגדרת כברירת מחדל. בסיבוב אחד, הטכנולוגיה נראית כמו קסם - והצד המשפטי נראה כמו כוח משיכה.
שאלות נפוצות
מה המשמעות של העובדה שמייסד OpenClaw הצטרף ל-OpenAI בעוד ש-OpenClaw עבר לקרן?
זה מאותת על פיצול בין האדם שבונה "סוכנים אישיים" לבין הפרויקט שנותר מנוהל על ידי הציבור. שטיינברגר, שהצטרף ל-OpenAI, מציע שיתמקד בקידום מוצרים בסגנון סוכנים שם. הצבת OpenClaw בקרן נועדה לשמור על קוד פתוח ונתמכת בת קיימא. בפועל, המהלך נועד לשמר את אמון הקהילה בעוד שבונה הפרויקט הולך למקום שבו נמצאים המשאבים.
מדוע סוכני בינה מלאכותית בסגנון OpenClaw מתמקדים במטלות כמו דוא"ל וניירת?
מכיוון שעבודת "ניהול חיים" היא חוזרת על עצמה, מבוססת כללים וגוזלת זמן, מה שהופך אותה למטרה מעשית לאוטומציה. הדוגמאות כאן - מיון דוא"ל, ניירת ביטוח וצ'ק-אין לטיסות - הן משימות צרות עם קריטריונים ברורים להצלחה. מיקוד זה יכול לגרום לסוכנים להרגיש בעלי ערך מוקדם יותר מאשר עוזרים פתוחים יותר. זה גם מדגיש מדוע בקרות גישה קפדניות חשובות כאשר סוכנים נוגעים בחשבונות אישיים.
כיצד ניתן לפרוס סוכן בינה מלאכותית בקוד פתוח כמו OpenClaw מבלי ליצור בעיות אבטחה?
התייחסו אליו כאל תוכנה שיכולה לראות נתונים רגישים, לא כאל סקריפט צעצוע. גישה נפוצה היא לנעול אישורים, להגביל הרשאות למינימום הנדרש ולשמור יומני רישום ומעקבי ביקורת. הפעילו אותו בסביבה מוגבלת והפרידו אותו ממערכות בעלות ערך גבוה. דאגות אבטחה רבות נובעות מפריסה רשלנית, במיוחד כאשר אנשים חושפים נקודות קצה או טוקנים ללא אמצעי הגנה חזקים.
מדוע הפנטגון אינו מרוצה מההגבלות של אנתרופיק על קלוד לשימוש צבאי?
המחלוקת מתמקדת בהיקף ובשליטה: הפנטגון רוצה גישה רחבה "לכל מטרה חוקית", בעוד שאנתרופיק מתוארת כמי שמקפידה על מגבלות נוקשות סביב נשק אוטונומי לחלוטין ומעקב המוני. גורמים רשמיים גם לא רוצים שמודלים יחסמו זרימות עבודה באמצע או ידרשו משא ומתן אינסופי על מקרים קצה. המתח הזה פחות מופשט ממה שהוא נשמע - מדובר במי שמחליט מה המודל יכול לעשות במבצעים אמיתיים.
כיצד סטארט-אפים מנסים לחזות התנהגות אנושית באמצעות בינה מלאכותית, ומדוע זה מרגיש שנוי במחלוקת?
הדוגמה כאן, סימיל, עוסקת במודל של "למידה מוגבלת" שמטרתו לחזות מה אנשים עשויים לעשות, כולל חיזוי שאלות סבירות בהקשרים כמו שיחות על רווחים. הגישה המתוארת משלבת ראיונות עם נתוני מחקר התנהגותי וסימולציות המשתמשות בסוכני בינה מלאכותית שנועדו לשקף העדפות אמיתיות. זה מרגיש מוזר משום שזה מעביר את הבינה המלאכותית מלהגיב לאנשים לחיזוי שלהם. האתגר הוא לשמור על טענות מוגבלות ולהימנע מביטחון יתר.
מה קורה כאשר כלי וידאו של בינה מלאכותית יוצרים דמויות המוגנות בזכויות יוצרים, כמו בעימות בין בייטדאנס לדיסני?
הדפוס המדווח מוכר: אולפן מוציא הצהרת הפסקת פעולה, והפלטפורמה מגיבה על ידי חיזוק אמצעי ההגנה כדי למנוע שימוש בלתי מורשה ב-IP או בדמיון. בכלים רבים, אמצעי ההגנה משמעותם מסנני תוכן מחמירים יותר, זיהוי משופר של תווים ניתנים לזיהוי ואכיפת מדיניות משתמשים ברורה יותר. הקונפליקט הבסיסי הוא מהירות לעומת אחריות - יצירת ויראלי נעה במהירות, ואכיפת זכויות פועלת כמו כוח המשיכה. צפו ליותר התנגשויות כאלה ככל שמחוללי וידאו יתפשטו.