רק בגלל שזה נשמע משכנע
יש הרבה אנשים שיודעים לדבר בצורה משכנעת, בלי קשר לתוכן הדברים. בתכנות זה לפעמים אפילו יותר קל כי השטן הוא בפרטים ויש המון ניואנסינים קטנים שהמחשב רואה אבל אנחנו מפספסים. תוכנת הבינה המלאכותית החדשה Chat GPT, מעבר לכל היכולות המרשימות שלה, עשויה לסמן נקודת מפנה שבה גם כלים מתחילים לטעות בצורה משכנעת - בדיוק כמונו.
בדוגמה לא טכנית ביקשתי מהחבר לייצר רשימה של מילים בנות 5 אותיות שמתחילות ב e ומכילות j, ככה נראתה השיחה:
Q:
please suggest some 5 letter words that start with an e and contain a j
A:
Here are five 5-letter words that start with an "e" and contain a "j":
eject - to force out or expel, as by a sudden and vigorous thrust
jumbo - very large in size or quantity
jenny - a female donkey or ass
jewry - the Jewish people or community, especially as a whole
jowar - a type of sorghum grain that is commonly grown in arid regions of Africa and Asia.
בדוגמה טכנית ביקשתי קוד פייתון שמוריד תמונות בצורה יעילה. קיבלתי תשובה ארוכה שמפספסת את הנקודה. הוא התחיל בשתי דוגמאות קוד שמציגות הורדה של קובץ תמונה עם ספריית requests ועם ספריית urllib, ואז סיים בפיסקה הבאה:
If you want to download multiple images, you can use a loop to iterate over the URLs of the images and download them one at a time using one of the methods described above. You may also want to consider using threading or asyncio to download the images in parallel, which can improve performance if you are downloading a large number of images.
אף מילה על האפשרות להשתמש ב sessions בספריית requests (שברוב המקרים תתן תוצאה טובה יותר משימוש ב Thread-ים או ב async), ובלי הסביר איך לבדוק את הביצועים בעצמך.
צריך להדגיש - אנחנו לא פה בשביל לעשות האנשה לרובוטים. ברור לי איך זה עובד ולמה הטעויות האלה הן חלק אינהרנטי במנגנון. מה שצריך לזכור זה שככל שהשימוש בכלי AI גדל, כך גדל הצורך שלנו להיות ביקורתיים לגבי התוצאות שלהם. יש לנו מנגנונים לסינון תכנים שגויים מויקיפדיה ומ Stack Overflow, ובעתיד נצטרך לייצר מנגנונים דומים כדי להתמודד עם הטעויות והחוסרים בכלי ה AI שיהיו לנו.