כמה אנרגיה משתמשת בינה מלאכותית?

כמה אנרגיה משתמשת בינה מלאכותית?

תשובה: בינה מלאכותית יכולה להשתמש במעט מאוד חשמל עבור משימת טקסט פשוטה, אך הרבה יותר כאשר ההנחיות ארוכות, הפלט רב-מודאלי או המערכות פועלות בקנה מידה עצום. אימון הוא בדרך כלל נזק האנרגיה הראשוני העיקרי, בעוד שהסקה יומיומית הופכת משמעותית ככל שהבקשות מצטברות.

נקודות מפתח:

הקשר : יש להגדיר את המשימה, המודל, החומרה וקנה המידה לפני מתן הצעת מחיר כלשהי לצריכת אנרגיה.

הדרכה : התייחסו לאימון מודלים כאל אירוע האנרגיה הראשוני העיקרי בעת תכנון תקציבים.

הסקה : יש לעקוב מקרוב אחר הסקות חוזרות, מכיוון שעלויות קטנות לכל בקשה מצטברות במהירות בקנה מידה גדול.

תשתית : יש לכלול קירור, אחסון, רשתות וקיבולת חוסר פעילות בכל הערכה ריאלית.

יעילות : השתמשו במודלים קטנים יותר, הנחיות קצרות יותר, אחסון במטמון ובאצווה כדי לקצץ בצריכת האנרגיה.

כמה אנרגיה משתמשת בינה מלאכותית? אינפוגרפיקה

מאמרים שאולי תרצו לקרוא אחרי זה:

🔗 כיצד בינה מלאכותית משפיעה על הסביבה
מסביר את טביעת הרגל הפחמנית של בינה מלאכותית, צריכת האנרגיה ופשרות הקיימות.

🔗 האם בינה מלאכותית מזיקה לסביבה?
חושף עלויות סביבתיות נסתרות של מודלים של בינה מלאכותית ומרכזי נתונים.

🔗 האם בינה מלאכותית טובה או רעה? יתרונות וחסרונות
מבט מאוזן על יתרונות, סיכונים, אתיקה והשפעות ממשיות של בינה מלאכותית.

🔗 מהי בינה מלאכותית? מדריך פשוט
למד יסודות של בינה מלאכותית, מונחים מרכזיים ודוגמאות יומיומיות תוך דקות.

למה השאלה הזו חשובה יותר ממה שאנשים חושבים 🔍

צריכת אנרגיה של בינה מלאכותית אינה רק נושא לשיחה סביבתית. היא נוגעת בכמה דברים אמיתיים מאוד:

  • עלות חשמל - במיוחד עבור עסקים המריצים הרבה בקשות בינה מלאכותית

  • השפעה על פליטת פחמן - תלוי במקור החשמל מאחורי השרתים

  • עומס חומרה - שבבים חזקים צורכים הספק משמעותי

  • החלטות בקנה מידה - הנחיה זולה אחת יכולה להפוך למיליוני החלטות יקרות

  • עיצוב מוצר - יעילות היא לעתים קרובות תכונה טובה יותר ממה שאנשים מבינים ( גוגל קלאוד , בינה מלאכותית ירוקה )

הרבה אנשים שואלים "כמה אנרגיה משתמשת בינה מלאכותית?" כי הם רוצים מספר דרמטי. משהו עצום. משהו שמתאים לכותרות. אבל השאלה הטובה יותר היא זו: על איזה סוג של שימוש בבינה מלאכותית אנחנו מדברים? כי זה משנה הכל. ( IEA )

הצעה אחת להשלמה אוטומטית? די קטנה.
אימון מודל חזיתי על פני אשכולות עצומים? הרבה, הרבה יותר גדול.
זרימת עבודה ארגונית של בינה מלאכותית שתמיד פועלת ונוגעת במיליוני משתמשים? כן, זה מצטבר מהר... כמו גרושים שהופכים לתשלום שכר דירה. ( DOE , Google Cloud )

כמה אנרגיה משתמשת בינה מלאכותית? התשובה הקצרה ⚡

הנה הגרסה המעשית.

בינה מלאכותית יכולה להשתמש בכל דבר, החל משבריר זעיר של וואט-שעה עבור משימה קלת משקל ועד כמויות עצומות של חשמל עבור אימון ופריסה בקנה מידה גדול. טווח זה נשמע רחב באופן מצחיק, משום שהוא רחב. ( Google Cloud , Strubell et al. )

במילים פשוטות:

  • משימות הסקה פשוטות - לעתים קרובות צנועות יחסית על בסיס שימוש אחד לכל אחד

  • שיחות ארוכות, תפוקות גדולות, יצירת תמונות, יצירת וידאו - צורכות אנרגיה רבה יותר באופן ניכר

  • אימון מודלים גדולים - אלוף צריכת החשמל במשקל כבד

  • הרצת בינה מלאכותית בקנה מידה גדול כל היום - כאשר "קטן לכל בקשה" הופך ל"חשבון כולל גדול" ( Google Cloud , DOE )

כלל אצבע טוב הוא זה:

אז כשמישהו שואל, כמה אנרגיה משתמשת בינה מלאכותית?, התשובה הישירה היא, "לא כמות אחת - אלא מספיק כדי שהיעילות תשפיע, ומספיק כדי שקנה ​​המידה ישנה את כל הסיפור." ( IEA , בינה מלאכותית ירוקה )

זה לא קליט כמו שאנשים רוצים, אני יודע. אבל זה נכון.

מה הופך גרסה טובה של אומדן אנרגיה מבוסס בינה מלאכותית? 🧠

אומדן טוב אינו רק מספר דרמטי שמופיע על גבי גרפיקה. אומדן מעשי כולל הקשר. אחרת זה כמו לשקול ערפל עם משקל אמבטיה. קרוב מספיק כדי להישמע מרשים, לא קרוב מספיק כדי לסמוך עליו. ( IEA , Google Cloud )

אומדן אנרגיה סביר של בינה מלאכותית צריך לכלול:

  • סוג המשימה - טקסט, תמונה, אודיו, וידאו, הדרכה, כוונון עדין

  • גודל המודל - מודלים גדולים יותר בדרך כלל דורשים יותר חישוב

  • החומרה שבה נעשה שימוש - לא כל השבבים יעילים באותה מידה

  • אורך הסשן - הנחיות קצרות וזרימות עבודה ארוכות מרובות שלבים שונות מאוד

  • ניצול - מערכות סרק עדיין צורכות חשמל

  • קירור ותשתית - השרת אינו החשבון כולו

  • מיקום ותמהיל אנרגיה - החשמל אינו נקי באותה מידה בכל מקום ( Google Cloud , IEA )

זו הסיבה ששני אנשים יכולים להתווכח על צריכת חשמל של בינה מלאכותית ושניהם נשמעים בטוחים בזמן שהם מדברים על דברים שונים לחלוטין. אדם אחד מתכוון לתגובת צ'אטבוט אחת. השני מתכוון לריצת אימון ענקית. שניהם אומרים "בינה מלאכותית", ופתאום השיחה יורדת מהפסים 😅

טבלת השוואה - הדרכים הטובות ביותר להעריך את צריכת האנרגיה של בינה מלאכותית 📊

הנה טבלה מעשית לכל מי שמנסה לענות על השאלה מבלי להפוך אותה לאמנות פרפורמנס.

כלי או שיטה הקהל הטוב ביותר מְחִיר למה זה עובד
הערכה פשוטה של ​​כלל אצבע קוראים סקרנים, סטודנטים לְשַׁחְרֵר מהיר, קל, קצת מטושטש - אבל מספיק טוב להשוואות גסות
מד וואט בצד המכשיר בונים בודדים, חובבים נָמוּך מודד את שרטוט המכונה בפועל, שהוא מרענן ומוחשי
לוח מחוונים של טלמטריה של ה-GPU מהנדסים, צוותי למידה אלקטרונית בֵּינוֹנִי פירוט טוב יותר על משימות כבדות מחשוב, אם כי זה עלול לפספס את תקורת המתקן הגדולה יותר
חיוב ענן + יומני שימוש סטארט-אפים, צוותי תפעול בינוני עד גבוה מחבר את השימוש בבינה מלאכותית להוצאות אמיתיות - לא מושלם, עדיין בעל ערך רב
דיווח על אנרגיה במרכזי נתונים צוותי ארגון גָבוֹהַ נותן נראות תפעולית רחבה יותר, קירור ותשתיות מתחילים להופיע כאן
הערכת מחזור חיים מלאה צוותי קיימות, ארגונים גדולים די גבוה, לפעמים כואב הכי טוב לניתוח רציני כי זה מעבר לשבב עצמו... אבל זה איטי וסוג של חיה

אין שיטה מושלמת. זה החלק המתסכל במקצת. אבל ישנן רמות של ערך. ובדרך כלל, משהו שמיש מנצח את המושלם. ( גוגל קלאוד )

הגורם הכי גדול הוא לא קסם - זה מחשוב וחומרה 🖥️🔥

כאשר אנשים מדמיינים את צריכת האנרגיה של בינה מלאכותית, הם לעתים קרובות מדמיינים את המודל עצמו כדבר שצורך חשמל. אבל המודל הוא לוגיקת תוכנה הפועלת על חומרה. החומרה היא המקום שבו מופיע חשבון החשמל. ( סטרובל ואחרים , גוגל קלאוד )

המשתנים הגדולים ביותר כוללים בדרך כלל:

מערכת אופטימלית במיוחד יכולה לבצע יותר עבודה עם פחות אנרגיה. מערכת רשלנית יכולה לבזבז חשמל בביטחון עוצר נשימה. אתם יודעים איך זה - חלק מהמערכות הן מכוניות מרוץ, חלקן הן עגלות קניות עם רקטות מודבקות עליהן בסרט דביק 🚀🛒

וכן, גודל המודל קובע. מודלים גדולים יותר נוטים לדרוש יותר זיכרון ויותר חישובים, במיוחד בעת יצירת פלטים ארוכים או טיפול בהיגיון מורכב. אבל טריקים של יעילות יכולים לשנות את התמונה: ( בינה מלאכותית ירוקה , כימות, אצווה ואסטרטגיות הגשה בשימוש באנרגיה לתואר שני במשפטים )

אז השאלה היא לא רק "כמה גדול המודל?" אלא גם "באיזו תבונה הוא מנוהל?"

אימון לעומת הסקה - אלו חיות שונות 🐘🐇

זהו הפיצול שמבלבל כמעט את כולם.

הַדְרָכָה

אימון הוא שלב שבו מודל לומד דפוסים ממערכי נתונים עצומים. זה יכול לכלול שבבים רבים הפועלים במשך תקופות ממושכות, לועסים כמויות עצומות של נתונים. שלב זה צורך אנרגיה. לפעמים אפילו בצורה קיצונית. ( סטרובל ואחרים )

אנרגיית האימון תלויה ב:

  • גודל המודל

  • גודל מערך הנתונים

  • מספר ריצות אימון

  • ניסויים שנכשלו

  • כוונון עדין של מסירות

  • יעילות חומרה

  • תקורה של קירור ( סטרובל ואחרים , מחקר גוגל )

והנה החלק שאנשים לעתים קרובות מפספסים - הציבור לעתים קרובות מדמיין אימון אחד גדול, שנעשה פעם אחת, סוף הסיפור. בפועל, פיתוח יכול לכלול אימון חוזר, כוונון, אימון מחדש, הערכה וכל האיטרציות הפרוזאיות אך היקרות סביב האירוע המרכזי. ( סטרובל ואחרים , Green AI )

מַסְקָנָה

הסקה היא המודל העונה על בקשות משתמשים בפועל. בקשה אחת אולי לא נראית הרבה. אבל הסקה מתרחשת שוב ושוב ושוב. מיליוני פעמים. לפעמים מיליארדים. ( מחקר גוגל , של אנרגיה )

אנרגיית ההסקה גדלה עם:

אז אימון הוא רעידת האדמה. היסק הוא הגאות והשפל. אחד דרמטי, השני מתמשך, ושניהם יכולים לעצב מחדש את החוף מעט. זוהי מטאפורה יוצאת דופן, אולי, אבל היא מחזיקה מעמד... פחות או יותר.

עלויות האנרגיה הנסתרות שאנשים שוכחים מהן 😬

כאשר מישהו מעריך את צריכת החשמל של בינה מלאכותית רק על ידי התבוננות בשבב, הוא בדרך כלל מחמיץ את הערך. לא תמיד בצורה הרסנית, אבל מספיק כדי שזה ישפיע. ( Google Cloud , IEA )

הנה החלקים הנסתרים:

קירור ❄️

שרתים מייצרים חום. חומרת בינה מלאכותית עוצמתית מייצרת הרבה ממנו. קירור אינו אופציונלי. כל וואט הנצרך על ידי חישוב נוטה להזמין צריכת אנרגיה רבה יותר רק כדי לשמור על טמפרטורות סבירות. ( IEA , Google Cloud )

תנועת נתונים 🌐

העברת נתונים בין אמצעי אחסון, זיכרון ורשתות דורשת גם אנרגיה. בינה מלאכותית אינה רק "חשיבה". היא גם מערבבת מידע ללא הרף. ( IEA )

קיבולת סרק 💤

מערכות שנבנו לביקוש שיא לא תמיד פועלות בביקוש שיא. תשתית לא פעילה או שאינה בשימוש מספק עדיין צורכת חשמל. ( Google Cloud )

יתירות ואמינות 🧱

גיבויים, מערכות גיבוי לגיבוי, אזורים כפולים, שכבות בטיחות - כולם בעלי ערך, כולם חלק מתמונת האנרגיה הגדולה יותר. ( IEA )

אחסון 📦

נתוני אימון, הטמעות, יומני רישום, נקודות ביקורת, פלטים שנוצרו - כל אלה נמצאים איפשהו. אחסון זול יותר ממחשוב, נכון, אבל לא בחינם מבחינת אנרגיה. ( IEA )

זו הסיבה "כמה אנרגיה משתמשת בינה מלאכותית?" על ידי התבוננות בגרף בודד. הערימה המלאה חשובה. ( גוגל קלאוד , IEA )

למה הנחיית בינה מלאכותית אחת יכולה להיות זעירה - והבאה אחריה יכולה להיות מפלצת 📝➡️🎬

לא כל ההנחיות נוצרו שוות. בקשה קצרה לשכתוב משפט אינה דומה לבקשה לניתוח ארוך, סשן קידוד רב-שלבי או יצירת תמונה ברזולוציה גבוהה. ( Google Cloud )

דברים שנוטים להגביר את צריכת האנרגיה לכל אינטראקציה:

תשובה קלה בטקסט עשויה להיות יחסית זולה. תהליך עבודה רב-מודאלי ענק יכול להיות, ובכן, לא זול. זה קצת כמו להזמין קפה לעומת קייטרינג לחתונה. שניהם נחשבים כ"שירות אוכל", טכנית. אחד לא דומה לשני ☕🎉

זה חשוב במיוחד לצוותי מוצר. תכונה שנראית בלתי מזיקה בשימוש נמוך יכולה להפוך ליקרה בקנה מידה גדול אם כל סשן משתמש הופך ארוך יותר, עשיר יותר ודורש יותר מחשוב. ( DOE , Google Cloud )

בינה מלאכותית של צרכנים ובינה מלאכותית של ארגונים זה לא אותו דבר 🏢📱

אדם ממוצע שמשתמש באקראי בבינה מלאכותית עשוי להניח שההנחיות המזדמנות שלו הן הבעיה הגדולה. בדרך כלל, זה לא המקום שבו סיפור האנרגיה העיקרי נמצא. ( גוגל קלאוד )

שימוש ארגוני משנה את החישובים:

  • אלפי עובדים

  • טייסי משנה תמיד דלוקים

  • עיבוד מסמכים אוטומטי

  • סיכום שיחה

  • ניתוח תמונה

  • כלי סקירת קוד

  • סוכני רקע הפועלים ללא הרף

כאן מתחילה להיות חשיבות רבה לצריכת האנרגיה הכוללת. לא משום שכל פעולה היא אפוקליפטית, אלא משום שחזרה על עצמה היא מכפיל. ( DOE , IEA )

בבדיקות שלי ובסקירות תהליכי עבודה, זה המקום שבו אנשים מופתעים. הם מתמקדים בשם הדגם, או בהדגמה הראוותנית, ומתעלמים מהנפח. נפח הוא לעתים קרובות הגורם האמיתי - או הגורם המציל, תלוי אם אתם מחייבים לקוחות או משלמים את חשבון החשמל 😅

עבור צרכנים, ההשפעה יכולה להרגיש מופשטת. עבור עסקים, היא הופכת למוחשית מהר מאוד:

  • חשבונות תשתית גדולים יותר

  • יותר לחץ לבצע אופטימיזציה

  • צורך חזק יותר בדגמים קטנים יותר במידת האפשר

  • דיווח פנימי על קיימות

  • יותר תשומת לב לאחסון במטמון וניתוב ( Google Cloud , Green AI )

איך להפחית את צריכת האנרגיה של בינה מלאכותית מבלי לוותר על בינה מלאכותית 🌱

חלק זה חשוב משום שהמטרה אינה "להפסיק להשתמש בבינה מלאכותית". בדרך כלל זה לא מציאותי, ואפילו לא הכרחי. שימוש טוב יותר הוא הדרך החכמה יותר.

הנה המנופים הגדולים ביותר:

1. השתמשו בדגם הקטן ביותר שעושה את העבודה

לא כל משימה דורשת את האפשרות הכבדה יותר. מודל קל יותר לסיווג או לסיכום יכול להפחית בזבוז במהירות. ( בינה מלאכותית ירוקה , גוגל קלאוד )

2. קצרו את ההנחיות והפלטים

מילה במילה, מילה במילה. אסימונים נוספים פירושם חישוב נוסף. לפעמים קיצוץ של ההנחיה הוא הניצחון הקל ביותר. ( אסטרטגיות כימות, אצווה והגשה בשימוש באנרגיה לתואר שני במשפטים , גוגל קלאוד )

3. שמירת תוצאות חוזרות במטמון

אם אותה שאילתה מופיעה שוב ושוב, אל תיצרו אותה מחדש בכל פעם. זה כמעט ברור מאליו באופן פוגעני, אך הוא מתפספס. ( גוגל קלאוד )

4. עבודות אצווה במידת האפשר

הרצת משימות בקבוצות יכולה לשפר את הניצול ולהפחית בזבוז. ( אסטרטגיות כימות, אצווה והגשה בשימוש באנרגיה בתואר שני במשפטים )

5. נתב משימות בצורה חכמה

השתמשו במודלים גדולים רק כאשר הביטחון יורד או מורכבות המשימה עולה. ( בינה מלאכותית ירוקה , גוגל קלאוד )

6. אופטימיזציה של התשתיות

תזמון טוב יותר, חומרה טובה יותר, אסטרטגיית קירור טובה יותר - דברים פרוזאיים, תמורה אדירה. ( גוגל קלאוד , DOE )

7. מדוד לפני הנחה

הרבה צוותים חושבים שהם יודעים לאן הולך הכוח. אחר כך הם מודדים, והנה זה - החלק היקר יושב במקום אחר. ( גוגל קלאוד )

עבודה יעילה אינה זוהרת. היא כמעט ולא זוכה לתשואות. אבל זוהי אחת הדרכים הטובות ביותר להפוך את הבינה המלאכותית לנגישה יותר וניתנת להגנה רבה יותר בקנה מידה גדול 👍

מיתוסים נפוצים על שימוש בחשמל באמצעות בינה מלאכותית 🚫

בואו ננפץ כמה מיתוסים כי הנושא הזה מסתבך מהר.

מיתוס 1 - כל שאילתה בתחום הבינה המלאכותית היא בזבזנית באופן אדירות

לא בהכרח. חלקם צנועים. קנה המידה וסוג המשימה חשובים מאוד. ( גוגל קלאוד )

מיתוס 2 - אימונים הם הדבר היחיד שחשוב

לא. הסקה יכולה לשלוט לאורך זמן כאשר השימוש הוא עצום. ( מחקר גוגל , של משרד האנרגיה )

מיתוס 3 - מודל גדול יותר תמיד מביא לתוצאה טובה יותר

לפעמים כן, לפעמים ממש לא. הרבה משימות מסתדרות מצוין עם מערכות קטנות יותר. ( בינה מלאכותית ירוקה )

מיתוס 4 - צריכת אנרגיה שווה ערך לפליטת פחמן באופן אוטומטי

לא בדיוק. פחמן תלוי גם במקור האנרגיה. ( IEA , Strubell et al. )

מיתוס 5 - ניתן לקבל מספר אוניברסלי אחד לשימוש באנרגיה באמצעות בינה מלאכותית

אי אפשר, לפחות לא בצורה שתישאר משמעותית. או שאפשר, אבל זה יהיה כל כך ממוצע שזה יפסיק להיות בעל ערך. ( IEA )

זו הסיבה ששאלה " כמה אנרגיה משתמשת בינה מלאכותית?" היא חכמה - אבל רק אם אתם מוכנים לתשובה מרובדת במקום סיסמה.

אז... כמה אנרגיה באמת משתמשת בינה מלאכותית? 🤔

הנה המסקנה המבוססת.

שימושים של בינה מלאכותית:

  • קצת , עבור כמה משימות פשוטות

  • הרבה יותר , לייצור רב-מודאלי כבד

  • כמות גדולה מאוד , לאימון מודלים בקנה מידה גדול

  • כמות עצומה בסך הכל , כאשר מיליוני בקשות מצטברות לאורך זמן ( Google Cloud , DOE )

זאת הצורה של זה.

הדבר המרכזי הוא לא לשטח את כל הנושא למספר מפחיד אחד או למשיכת כתפיים אחת מזלזלת. צריכת האנרגיה של בינה מלאכותית היא אמיתית. היא חשובה. ניתן לשפר אותה. והדרך הטובה ביותר לדבר על זה היא בהקשר, לא בתיאטרליות. ( IEA , Green AI )

הרבה מהשיח הציבורי נע בין קצוות - "בינה מלאכותית היא בעצם חינמית" מצד אחד, "בינה מלאכותית היא אפוקליפסה חשמלית" מצד שני. המציאות רגילה יותר, מה שהופך אותה לאינפורמטיבית יותר. זוהי בעיה מערכתית. חומרה, תוכנה, שימוש, קנה מידה, קירור, בחירות עיצוב. פרוזאי? קצת. חשוב? מאוד. ( IEA , Google Cloud )

נקודות חשובות ⚡🧾

אם באתם לכאן ושאלתם, כמה אנרגיה משתמשת בינה מלאכותית?, הנה המסר:

  • אין מספר אחד שמתאים לכולם

  • אימון בדרך כלל צורך הכי הרבה אנרגיה מראש

  • הסקה הופכת לגורם מרכזי בקנה מידה גדול

  • גודל הדגם, החומרה, עומס העבודה והקירור - כולם חשובים

  • אופטימיזציות קטנות יכולות לעשות הבדל גדול באופן מפתיע

  • השאלה החכמה ביותר היא לא רק "כמה", אלא גם "לאיזו משימה, באיזו מערכת, באיזה קנה מידה?" ( IEA , Google Cloud )

אז כן, בינה מלאכותית משתמשת באנרגיה אמיתית. מספיק כדי להצדיק תשומת לב. מספיק כדי להצדיק הנדסה טובה יותר. אבל לא בצורה מצוירת, של מספר אחד.

שאלות נפוצות

כמה אנרגיה משתמשת בינה מלאכותית עבור הנחיה אחת?

אין מספר אוניברסלי להנחיה בודדת, מכיוון שצריכת האנרגיה תלויה בדגם, בחומרה, באורך ההנחיה, באורך הפלט ובכל שימוש נוסף בכלי. תגובת טקסט קצרה יכולה להיות צנועה יחסית, בעוד שמשימה רב-מודאלית ארוכה יכולה לצרוך יותר באופן ניכר. התשובה המשמעותית ביותר אינה דמות כותרת אחת, אלא ההקשר סביב המשימה.

מדוע הערכות השימוש בכוח של בינה מלאכותית משתנות כל כך?

הערכות משתנות משום שאנשים משווים לעתים קרובות דברים שונים מאוד תחת התווית היחידה של בינה מלאכותית. הערכה אחת עשויה לתאר תגובה קלת משקל של צ'אטבוט, בעוד שאחרת עשויה לכלול יצירת תמונות, וידאו או אימון מודלים בקנה מידה גדול. כדי שהערכה תהיה משמעותית, היא זקוקה להקשר כגון סוג המשימה, גודל המודל, חומרה, ניצול, קירור ומיקום.

האם אימון בינה מלאכותית או הפעלת בינה מלאכותית יומיומית הם עלות האנרגיה הגדולה יותר?

אימון הוא בדרך כלל אירוע האנרגיה הגדול מראש, מכיוון שהוא יכול לכלול שבבים רבים הפועלים במשך תקופות ארוכות על פני מערכי נתונים עצומים. הסקה היא העלות המתמשכת שמופיעה בכל פעם שמשתמשים שולחים בקשות, ובקנה מידה גדול היא יכולה גם להפוך לגדולה מאוד. בפועל, שניהם חשובים, אם כי הם חשובים בדרכים שונות.

מה הופך בקשה אחת של בינה מלאכותית להרבה יותר עתירת אנרגיה מאחרת?

חלונות הקשר ארוכים יותר, פלטים ארוכים יותר, מעברי חשיבה חוזרים, קריאות לכלי, שלבי אחזור ויצירה רב-מודאלית - כל אלה נוטים להגדיל את צריכת האנרגיה לכל אינטראקציה. יעדי השהייה חשובים גם כן, מכיוון שדרישות תגובה מהירות יותר עלולות להפחית את היעילות. בקשת כתיבה מחדש קטנה וזרימת עבודה ארוכה של קידוד או תמונה פשוט אינן ניתנות להשוואה.

אילו עלויות אנרגיה נסתרות אנשים מפספסים כשהם שואלים כמה אנרגיה בינה מלאכותית משתמשת?

אנשים רבים מתמקדים רק בשבב, אך זה מתעלם מקירור, תנועת נתונים, אחסון, קיבולת סרק ומערכות אמינות כגון גיבויים או אזורי כשל. שכבות תמיכה אלו יכולות לשנות באופן מהותי את טביעת הרגל הכוללת. זו הסיבה שביצוע ביצועים בפני עצמו לעיתים רחוקות לוכד את תמונת האנרגיה המלאה.

האם מודל בינה מלאכותית גדול יותר תמיד צורך יותר אנרגיה?

מודלים גדולים יותר דורשים בדרך כלל יותר מחשוב וזיכרון, במיוחד עבור פלטים ארוכים או מורכבים, ולכן הם לרוב צורכים יותר אנרגיה. אבל גדולים יותר לא בהכרח אומרים טובים יותר לכל עבודה, ואופטימיזציה יכולה לשנות את התמונה במידה ניכרת. מודלים מיוחדים קטנים יותר, כימות, אצווה, אחסון במטמון וניתוב חכם יותר - כל אלה יכולים לשפר את היעילות.

האם שימוש בבינה מלאכותית של צרכנים הוא בעיית האנרגיה העיקרית, או שמא בינה מלאכותית של ארגונים היא הבעיה הגדולה יותר?

שימוש מזדמן על ידי צרכנים יכול להצטבר, אך סיפור האנרגיה הרחב יותר מופיע לעתים קרובות בפריסות ארגוניות. משב"מים פעילים תמיד, עיבוד מסמכים, סיכום שיחות, סקירת קוד וסוכני רקע יוצרים ביקוש חוזר על פני בסיסי משתמשים גדולים. הבעיה בדרך כלל פחות קשורה לפעולה דרמטית אחת ויותר לנפח מתמשך לאורך זמן.

כמה אנרגיה משתמשת בינה מלאכותית כשכוללים מרכזי נתונים וקירור?

ברגע שהמערכת הרחבה יותר נכללת, התשובה הופכת לריאליסטית יותר ובדרך כלל גדולה יותר ממה שמציעות הערכות של שבבים בלבד. מרכזי נתונים זקוקים לכוח לא רק לחישוב, אלא גם לקירור, רשתות, אחסון ותחזוקת קיבולת פנויה. זו הסיבה שתכנון תשתית ויעילות מתקנים חשובים כמעט כמו תכנון מודל.

מהי הדרך המעשית ביותר למדוד את צריכת האנרגיה של בינה מלאכותית בתהליך עבודה אמיתי?

השיטה הטובה ביותר תלויה במי המודד ולאיזו מטרה. כלל אצבע גס יכול לסייע בהשוואות מהירות, בעוד שמדי וואט, טלמטריה של GPU, יומני חיוב בענן ודיווחי מרכז נתונים מספקים תובנות תפעוליות חזקות יותר ויותר. עבור עבודה רצינית של קיימות, מבט מלא יותר על מחזור החיים חזק אף יותר, אם כי הוא איטי ותובעני יותר.

כיצד צוותים יכולים להפחית את צריכת האנרגיה של בינה מלאכותית מבלי לוותר על תכונות שימושיות של בינה מלאכותית?

הרווחים הגדולים ביותר מגיעים בדרך כלל משימוש במודל הקטן ביותר שעדיין עושה את העבודה, קיצור הנחיות ופלט, אחסון במטמון של תוצאות חוזרות, עיבוד קבוצות עבודה וניתוב רק של משימות קשות יותר למודלים גדולים יותר. אופטימיזציה של תשתיות חשובה גם כן, במיוחד תזמון ויעילות חומרה. בצנרת עבודה רבות, מדידה תחילה עוזרת למנוע מצוותים לבצע אופטימיזציה של הדבר הלא נכון.

הפניות

  1. הסוכנות הבינלאומית לאנרגיה (IEA) - ביקוש לאנרגיה מבינה מלאכותית - iea.org

  2. משרד האנרגיה האמריקאי (DOE) - משרד האנרגיה מפרסם דו"ח חדש להערכת העלייה בביקוש לחשמל במרכזי נתונים - energy.gov

  3. גוגל קלאוד - מדידת ההשפעה הסביבתית של הסקה באמצעות בינה מלאכותית - cloud.google.com

  4. מחקר גוגל - חדשות טובות על טביעת הרגל הפחמנית של אימון למידת מכונה - research.google

  5. מחקר גוגל - טביעת הרגל הפחמנית של אימון למידת מכונה תתיישר ואז תפחת - research.google

  6. arXiv - בינה מלאכותית ירוקה - arxiv.org

  7. arXiv - Strubell et al. - arxiv.org

  8. arXiv - אסטרטגיות כימות, אצווה והגשה בשימוש באנרגיה בתואר שני במשפטים - arxiv.org

מצאו את הבינה המלאכותית העדכנית ביותר בחנות הרשמית של עוזרי בינה מלאכותית

אודותינו

חזרה לבלוג