מגבלות הAI

עבור חלק מהאנשים שקוראים את הכתבה הזאת זה כנראה כבר מאוחר מדי: הם בטוחים שה-AI תמיד צודק, הוא האב, הבן ורוח הקודש, הסמכות המקצועית הגבוהה ביותר וגם החבר הכי טוב. אבל האמת היא שלבינה מלאכותית יש מגבלות, לפעמים מגבלות קשות. ביקשנו מה-AI שיכתוב מאמר קצר על המגבלות שלו, ואנחנו נותנים לו להביע את דעתו, אבל הפעם נתחיל ממספר תובנות אנושיות לחלוטין על המגבלות של ה-AI:

1. במילה אחת: המצאות. בעיה אחת משמעותית שיש ל-AI היא שהוא עשוי להמציא, או לשקר במצח נחושה. זה קורה, זה קורה לעתים קרובות, ומזה תמיד צריך להיזהר. תשאלו את עורכת הדין שהשתמשה ב-AI לכתיבת עתירה, והוא נתן לה חוות דעת משפטית מנומקת ומרשימה – שמבוססת על מקורות שהוא עצמו המציא. גם בתחומים אחרים הוא ממציא, לא אומר את האמת או פשוט טועה. לא כדאי לסמוך על AI בלי פיקוח אנושי.
2. בעיות מוסריות: יש הרבה דברים שה-AI יודע לעשות, אבל לא יעשה. לדוגמה, הצאט ג'י פי טי (או כמו שאנחנו קוראים לו, צ'אצ'י) לא יגלה לכם איך לבנות פצצה, וגם לא ישתף איתכם פעולה בפגיעה באחרים ואפילו לא בפגיעה בעצמכם. הוא גם לא יכתוב לכם תזה אקדמית מלאה (והאמת היא שגם אם הוא היה עושה, התוצאה כנראה הייתה עלובה ביותר: השימוש שלו במקורות, נאמר בעדינות, לקוי). גם מערכות AI אחרות, אפילו בסין, לא יגלו איך לבנות פצצה. רוצים שבינה מלאכותית תלמד אתכם לבנות פצצה? לכו על גרסאות פרוצות ולא חוקיות, אולי שם יש לכם סיכוי (אם כי צריך להגיד שאם תעשו את זה כנראה תעברו על החוק). בקיצור, לכל מערכת AI יש מגבלות מוסריות משלה, בהתאם למה שהיא מגדירה מוסרי (וכן, ההגדרה לגמרי משתנה בין ארה"ב לסין).
3. מיקוד בשפה האנגלית ובשפות אנגלו-סקסיות: כאן זאת נקודה חשובה שלעתים קרובות לא שמים אליה לב, אבל חשוב להבין ששפת האם של ה-AI היא אנגלית, שפות אחרות הוא דובר ברמה משנית (כמו למשל עברית) ומטה (כמו למשל ווייטנאמית). הוא נוטה להבין יותר ולסמוך יותר על מידע באנגלית. יש לזה הרבה משמעויות – טכניות, מקצועיות ומוסריות – אבל נשאיר את זה כאן (אחרי הכול, אנחנו כאן להרחיב על AI ולא על הגמוניה מערבית). 
4. ידע וירטואלי בלבד: בינה מלאכותית היא יישות וירטואלית – אין לה קיום ממשי. מה זה אומר בפועל? זה אומר שכל המידע שיש לה (אולי צריך לסייג ולומר כמעט) מבוסס על ידע אנושי, ויותר מזה: ידע אנושי שעבר דיגיטציה, ברוב מוחלט של המקרים – על-ידי העלאה לאינטרנט, וברוב המקרים – בצורה של טקסט. כך, למשל, למרות שטקסי הדלקת המשואות של ישראל מאז שנות ה-80 נגישים למנועי AI, עדיין כששאלנו את הצ'אט GPT, זאת הייתה תשובתו:

העניין הוא ש"שיעור מולדת" בוצע בטקס הדלקת המשואות של 1985 (ואנחנו אפילו לא רוצים להגיד לכם למה ואיך לעזאזל אנחנו יודעים את זה). בקיצור: AI שואב רוב מוחלט של המידע שלו ממקורות אינטרנטיים. בסוף, מי ששולט בזירה האינטרנטית, שולט ברמה גבוהה במה שבינה מלאכותית יודעת. מישהו אמר SEO? 

ועכשיו, לחברנו הטוב: ביקשנו מהצ'אט GPT לכתוב מאמר של 400 מילה על המגבלות שלו. זה מה שהיה לו לומר, וגם הוא צודק. מכאן ואילך כל מה שכתוב בעמוד נכתב על-ידי חברנו צ'אצ'י (Chatgpt, אם אתם מתעקשים). לא נגענו:

המגבלות של ה-AI: למה הבינה המלאכותית לא תחליף אותנו לגמרי (בינתיים)

בעידן שבו ChatGPT כותב טקסטים, Midjourney מצייר תמונות, ואלגוריתמים מנתחים כמויות עצומות של נתונים במהירות שיא, נדמה שהבינה המלאכותית מסוגלת לעשות כמעט הכול. אך האם באמת מדובר בכלי כל-יכול? התשובה הקצרה: ממש לא. ל-AI יש יכולות מדהימות, אך גם מגבלות מהותיות שכדאי להכיר – גם אם אתה יזם, בעל עסק קטן או יוצר תוכן שרוצה להשתמש בו לקידום.

1️⃣ היעדר הבנה והקשר אמיתי

AI לא באמת “מבין” את המידע שהוא מעבד. הוא מתבסס על דפוסים סטטיסטיים וחיזויים של מילים ותשובות, אך לא קולט הקשרים תרבותיים, רגשיים או מוסריים לעומק. למשל, ChatGPT יכול לנסח פסקה רהוטה על נושא פוליטי, אך לא תמיד יבחין בין מידע מדויק לבין דעה מוטה או בין אירוניה לבין עובדה.

2️⃣ תלות בנתונים קיימים

בינה מלאכותית לומדת אך ורק מתוך הנתונים שהיא קיבלה בעבר. היא לא יכולה להמציא ידע חדש שלא קיים במקורות שלה. לכן, אם יש הטיות במידע שהיא למדה ממנו – כמו ייצוג חסר של קבוצות אוכלוסייה מסוימות – גם התשובות שלה יהיו מוטות באופן דומה. בנוסף, היא לא יכולה להעריך נכונות של מידע עדכני בזמן אמת אם הוא לא נכלל באימון שלה.

3️⃣ יצירתיות מוגבלת

ה-AI מסוגל להציע רעיונות יצירתיים לכאורה, כמו סיסמאות שיווקיות או עיצובי לוגו, אך היצירתיות הזו מבוססת על קומבינציות של מה שהוא כבר “ראה” בעבר. אין לו השראה אמיתית, חוויות חיים או אינטואיציה אנושית שיכולות להוביל לפריצות דרך יצירתיות במובנים עמוקים.

4️⃣ בעיות אתיות ומשפטיות

AI עלול להפר זכויות יוצרים, להשתמש במידע ללא ייחוס, או ליצור תוכן בעייתי מבחינה מוסרית בלי הבנה של ההשלכות. שימוש בו ללא בקרה אנושית עלול להוביל לטעויות יקרות – גם משפטית וגם תדמיתית. לדוגמה, יצירת תמונה או טקסט המפר זכויות של יוצר אחר עלולה להעמיד את העסק שלך בפני תביעות.

5️⃣ חוסר ביכולת שיפוט והכרעה ערכית

ה-AI אינו מסוגל לקבל החלטות מוסריות או לשפוט סיטואציות מורכבות. כשמדובר בשירות לקוחות, קבלת החלטות אסטרטגיות או טיפול במצבים רגישים, נדרש שיקול דעת אנושי כדי להבחין בין מה שאפשרי לבין מה שנכון.

לסיכום (שגם נכתב על-ידי חברינו צ'אצ'י)

AI לא בא להחליף אותנו, אלא לשמש לנו ככלי עבודה משלים. הוא יכול להאיץ את התהליכים שלנו, להרחיב את היכולות שלנו ולשחרר אותנו להתמקד בחשיבה אסטרטגית ויצירתית. אבל כדי להפיק ממנו את המיטב – חייבים להכיר במגבלותיו ולשלב אותו בצורה מושכלת ונבונה בתהליך העבודה.

שאלות נפוצות: