🏫 בבתי ספר מסוימים, צ'אטבוטים חוקרים תלמידים על עבודתם. אבל מהפכת הבינה המלאכותית מדאיגה את המורים ↗
כמה בתי ספר באוסטרליה מנסים גישה חדה יותר ל"הצג את תוצאותיך" - תלמידים מסיימים מטלה, ואז צ'אטבוט מבוסס בינה מלאכותית בוחן אותם הלוך ושוב כדי לוודא שהם מבינים את מה שהגישו. זה בעצם מבחן בעל פה, אבל עם מכונה ששואלת "מה זאת אומרת?" עד שמתחילים להתפתל.
הדאגה הגדולה יותר היא פריסה לא אחידה: מאמר בתעשייה מזהיר כי מאמצים מהירים עלולים לרוץ קדימה בעוד שאחרים מפגרים, וליצור מערכת חינוך דו-מהירה. מורים גם ממשיכים לסמן את החששות המוכרים - ועדיין רציניים -: פרטיות, רווחה וכיצד למנוע מ"עזרה של בינה מלאכותית" לגלוש ל"בינה מלאכותית עשתה את זה".
👮 פגשתי את המשטרה באמצעות כלי בינה מלאכותית שסופקו על ידי Palantir כדי לסמן התנהגות בלתי הולמת של שוטרים ↗
תחנת המטרופולין של לונדון משתמשת בבינה מלאכותית שסיפקה פלנטיר כדי לנתח דפוסי כוח אדם פנימיים - מחלה, היעדרויות, שעות נוספות - בחיפוש אחר אותות שעשויים להתאים לבעיות בסטנדרטים מקצועיים. זה מוצג כפיילוט מוגבל בזמן, ובעיקר, במטרופולין אומרים שבני אדם עדיין מקבלים את ההחלטות בפועל... אבל זה "עדיין" עושה הרבה עבודה.
איגוד המשטרה לא מתלהב, מכנה זאת "חשד אוטומטי" ומזהיר מפני כלים אטומים שמפרשים באופן שגוי לחץ ועומס עבודה כעוולות. זהו אחד מאותם רגעים שבהם הטכנולוגיה נשמעת מסודרת בשקופית, ואז מדמיינים איך היא מרגישה על הקרקע והיא הופכת לחדה וקוצנית.
🛡️ גוף הפיקוח על הפרטיות בבריטניה מזהיר מפני תמונות שנוצרו בבינה מלאכותית בהצהרה משותפת ↗
רשות המסחר הבינלאומית (ICO) של בריטניה הצטרפה לרגולטורים אחרים באזהרה משותפת מפני תמונות שנוצרו על ידי בינה מלאכותית המתארות אנשים ניתנים לזיהוי ללא הסכמה - בעיקרון: אל תתייחסו ל"זה סינתטי" כתירוץ קסום. המסר הוא לבנות אמצעי הגנה מוקדם ולערב את הרגולטורים במקום לבצע את המהלך הטכנולוגי הקלאסי של שילוח קודם והתנצלות אחר כך.
הם גם מדגישים סיכונים מוגברים לילדים, וזה הגיוני, כי ברגע שהדבר הזה מתפשט זה כמו לנסות להחזיר נצנצים לצנצנת. הטענה היא שפרטיות וכבוד נועדו לשרוד את מחזור האופנה, או כך לפחות נראה.
🪖 שר ההגנה האמריקאי, חגת', זימן את מנכ"ל אנתרופיק לשיחות קשות על השימוש הצבאי בקלוד, כך מדווח אקסיוס ↗
רויטרס מדווחת כי שר ההגנה האמריקאי צפוי להיפגש עם מנכ"ל אנתרופיק למה שמתואר כשיחה עימותית יותר על השימוש הצבאי בקלוד. על פי הדיווחים, הפנטגון רוצה שספקי בינה מלאכותית גדולים יהפכו מודלים לזמינים ברשתות מסווגות עם פחות הגבלות - ואנתרופיק מתנגדת לכל הקלה באמצעי ההגנה.
הסאבטקסט נשמע כמו דילמה קלאסית של "להתקדם מהר אבל... עם טילים מעורבים". אם הצדדים לא יצליחו להסכים על מעקות בטיחות, היחסים עלולים להימתח או אפילו להיקרע - אך אנתרופיק גם מאותתת שהשיחות עם הממשלה נותרות בונות, כך שמדובר בהודעות מתוחות, אך עדיין לא הודעות טקסט של פרידה מלאה.
🧠 הערות גרסה של ChatGPT ↗
הערות הגרסה של OpenAI מצביעות על חלון הקשר מורחב עבור מצב "חשיבה" - כלומר ניתן להזין את המודל לטקסט נוסף ולשמור על קוהרנטיות של שרשורים ארוכים יותר מבלי שהוא יאבד פרטים מוקדמים יותר. אם אי פעם ראיתם מודל "שוכח" משהו שפשוט אמרתם (כאב), זה מכוון בדיוק לשם.
זה שדרוג מאוד חנוני שמשנה בשקט את מה שמעשי: עבודות מסמכים ארוכות יותר, פרויקטים סבוכים יותר, מפגשי מחקר מתמשכים יותר. לא זוהר, אבל זה סוג של שינוי אינסטלציה שפתאום גורם לכל הבית להרגיש גדול יותר.
שאלות נפוצות
מה המשמעות של שימוש בצ'אטבוטים בבתי ספר כדי "לחקור" תלמידים לגבי מטלות?
בכמה בתי ספר באוסטרליה, תלמידים משלימים מטלה ולאחר מכן עוברים דיון הלוך ושוב עם צ'אטבוט מבוסס בינה מלאכותית שבודק את נימוקיהם. זה עובד כמו שיעור בעל פה, דוחק בתלמידים להסביר מה כתבו ומדוע. המטרה היא לוודא הבנה, לא רק פלט. זה יכול גם לחשוף פערים כאשר תלמיד אינו יכול להגן על טענות מרכזיות.
כיצד צ'אטבוטים מבוססי בינה מלאכותית בבתי ספר יכולים ליצור מערכת חינוך "דו-מהירויות"?
מאמר בתעשייה מזהיר כי בתי ספר שמאמצים את המערכות במהירות עלולים להתקדם בעוד שבתי ספר שפועלים לאט יותר עלולים להידרדר עוד יותר. אם חלק מהבתי ספר יישמו כלי בינה מלאכותית כדי להעריך הבנה, לתמוך בלמידה או להרתיע שימוש לרעה, הם עשויים לשפר את התוצאות מוקדם יותר. אחרים עשויים להיעדר תקציב, קיבולת כוח אדם או בהירות מדיניות כדי לפרוס מערכות דומות. קליטה לא אחידה זו עלולה להרחיב את הפערים הקיימים במשאבים ובהישגים.
כיצד מנסים מורים למנוע מ"עזרה של בינה מלאכותית" להפוך ל"בינה מלאכותית עשתה את זה"?
גישה נפוצה היא להסיט את ההערכה לתהליך ולהסבר, ולא רק למוצר המוגמר. שאלות בסגנון צ'אטבוט, טיוטות, רפלקציות או בדיקות בעל פה עלולות להקשות על הגשת עבודה שאינכם מבינים. מורים עשויים גם לקבוע גבולות נוקשים יותר לגבי סיוע מקובל, כגון סיעור מוחות לעומת כתיבה מחדש מלאה. הדגש נשאר על הפגנת הבנה, ולא על פיקוח על כל כלי.
אילו בעיות פרטיות ורווחה עולות כאשר משתמשים בבינה מלאכותית בכיתות לימוד?
מורים ממשיכים להעלות חששות לגבי אילו נתוני תלמידים נאספים, היכן הם מאוחסנים ומי יכול לגשת אליהם. ישנן גם חששות לרווחת התלמידים אם הם חשים פיקוח מתמיד או לחץ מצד תלמידים עקב שאלות המבוססות על מכונה. ילדים הם קבוצת סיכון מיוחדת, משום שמידע רגיש יכול להתפשט או להישמר במערכות בדרכים בלתי צפויות. בתי ספר רבים שואפים ליישם אמצעי הגנה מוקדם במקום לנסות לחדש אותם מאוחר יותר.
כיצד משתמשת המטרופוליטן בבינה מלאכותית שסיפקה פאלנטיר כדי לסמן התנהגות בלתי הולמת פוטנציאלית של שוטרים?
תחנת המטרופולין של לונדון משתמשת בבינה מלאכותית שסיפקה פלנטיר כדי לנתח דפוסי כוח אדם כגון מחלה, היעדרויות ושעות נוספות. המטרה היא לזהות אותות שעשויים להתאים לבעיות בסטנדרטים מקצועיים. זה מתואר כפיילוט מוגבל בזמן, והמטרופולין טוענת שבני אדם עדיין מקבלים את ההחלטות. מבקרים טוענים שהכלי יכול להרגיש כמו "חשד אוטומטי" אם הוא מפרש לחץ כעוולה.
מדוע איגודי המשטרה מודאגים מ"חשד אוטומטי" מכלי פיקוח מבוססי בינה מלאכותית?
החשש של איגוד השוטרים הוא שמודלים אטומים עלולים להסיק התנהגות בלתי הולמת מדפוסים בעלי הסברים שפירים. קפיצות בעומסי עבודה, בעיות בריאות ולחץ יכולים לשנות נוכחות או שעות נוספות מבלי לרמוז על התנהגות בלתי הולמת. אם ההיגיון של הכלי אינו שקוף, קשה יותר לשוטרים לערער על דגלים או למנהלים לכייל ספים הוגנים. אפילו עם החלטות אנושיות, אותות אוטומטיים עדיין יכולים לעצב תוצאות.
על מה מזהירה רשות ניירות הערך הבריטית (ICO) בנוגע לתמונות שנוצרו על ידי בינה מלאכותית של אנשים ניתנים לזיהוי?
גוף הפיקוח על הפרטיות בבריטניה הצטרף לרגולטורים אחרים באזהרה כי "סינתטי" אינו אומר ללא השלכות. אם תמונה שנוצרה על ידי בינה מלאכותית מתארת אדם שניתן לזהותו ללא הסכמה, עדיין חלים סיכונים לפרטיות ולכבוד. רגולטורים מדגישים בניית אמצעי הגנה בשלב מוקדם ופעילות בפיקוח במקום להפעיל אותם תחילה. הם גם מסמנים סיכונים מוגברים לילדים, שבהם הנזק יכול להתרחב במהירות לאחר התפשטות התוכן.
מה עומד מאחורי הלחץ המדווח של הפנטגון על אנתרופיק בנוגע לשימוש צבאי בקלוד?
רויטרס מדווחת כי שר ההגנה האמריקאי צפוי להיפגש עם מנכ"ל אנתרופיק לשיחות מחמירות יותר על השימוש הצבאי בקלוד. על פי הדיווחים, הפנטגון רוצה שספקי בינה מלאכותית גדולים יהפכו מודלים לזמינים ברשתות מסווגות עם פחות הגבלות. אנתרופיק מתנגדת להקלה באמצעי ההגנה, ומצביעה על עימות סביב מעקות בטיחות. היחסים נשמעים מתוחים, אם כי שני הצדדים מאותתים שהשיחות נותרות בונות.
מה השתנה בהערות הגרסה של ChatGPT בנוגע לאורך ההקשר של מצב "חשיבה"?
הערות הגרסה של OpenAI מצביעות על חלון הקשר מורחב עבור מצב "חשיבה", המאפשר ליותר טקסט להימצא בתוך שרשור יחיד. בפועל, זה יכול לעזור עם מסמכים ארוכים, פרויקטים מורכבים ומחקר רב-שלבי שבו פרטים מוקדמים חשובים. זהו שדרוג בסגנון אינסטלציה ולא תכונה ראוותנית. היתרון העיקרי הוא פחות פרטים שנשמטו במהלך סשנים ארוכים יותר.