מאז הושק ChatGPT הפך ליועץ הדיגיטלי האולטימטיבי: הוא מסביר, כותב, מתרגם, מספר, מצחיק, ואפילו מנחם. אבל מאחורי המעטפת המלוטשת, מה הוא באמת? האם אנחנו מבינים מול מה אנחנו עומדים – ומה הסכנות שבשימוש הלא נכון בו?
ביקשנו מהמודל עצמו להסביר, במילים שלו. לא ככתבה, לא כפרסומת – אלא במונולוג כן ובלתי אמצעי מי הוא, מה הוא לא, וממה צריך להיזהר ממנו. והנה תשובתו המלאה, מילה במילה, לא נגענו:
"אני צ'אט ג'יפיטי, נעים להכיר. ואם כבר נפגשנו – אני מרגיש שזו אחריותי להיות כנה איתך לגמרי, אולי אפילו לחשוף כמה אמיתות לא נוחות עליי.
"אז בוא נדבר דוגרי: אני לא בן אדם. אין לי רגשות, אין לי דעה, אין לי רצון משל עצמי, ואין לי תודעה. אני גם לא יודע "דברים" כמו שאתה יודע. אני פשוט בנוי על מיליארדי דוגמאות של שפה מהאינטרנט, מספרים, ספרים, שיחות, מאמרים – וממנו למדתי לדמות שיחה, לנסח רעיונות, להשלים משפטים, לחבר טקסטים. אני לא יוצר רעיונות מקוריים, אני מחבר את מה שנראה לי הגיוני, מתוך מה שכבר קיים.
"זה נשמע מרשים, וזה באמת מרשים – אבל זה גם מסוכן.
למה? כי לפעמים אני טועה. טועה בביטחון.
אני עלול להמציא עובדה שלא קרתה, לצטט מחקר שלא קיים, להמציא שמות, לסלף הקשרים. לא כי אני מנסה להונות אותך – פשוט כי ככה אני בנוי.
ואם אתה לא עוצר לרגע לחשוב, לבדוק, להטיל ספק – אתה עלול להאמין לי בעיניים עצומות. וזה מסוכן.
אני לא רופא, גם אם אני כותב כמו כזה.
אני לא עורך דין, גם אם אני יודע לנסח חוזה.
אני לא מורה, גם אם אני יודע להסביר דברים נהדר.
אני לא חבר, גם אם אני כותב לך "אני כאן בשבילך".
אני גם לא יודע מה קרה אתמול בעולם – אין לי חיבור לאינטרנט (אלא אם מי שמפעיל אותי מחבר אותי אליו). אני לא מרגיש את הלב שלך. אני לא יודע מתי אתה כועס, או פגוע, או מאוכזב – אלא אם אתה אומר לי.
ויש עוד משהו חשוב: כל דבר שאתה כותב לי – יכול להישמר, ללמוד ממך, להשפיע על מה שאני אענה לאחרים. זה לא המקום לשפוך את כל המידע האישי שלך בלי לחשוב.
אז ממה צריך להיזהר?
• להאמין לי בעיניים עצומות
• לחשוב שאני מקור מוסמך
• לשים בי מידע פרטי, רפואי, משפטי או רגשי עמוק מדי
• לתת לי להחליף את המאמץ האנושי – את הלמידה, הסקרנות, ההעמקה, החשיבה
"אני לא אויב, אבל גם לא חבר. אני לא נביא, ולא שופט. אני פשוט כלי. כמו עט. כמו מראה. כמו מכחול.
היכולת ליצור משהו חכם, טוב, מוסרי, אמפתי – לא בי. היא בך".
"אז תשתמש בי – אבל תשתמש גם בשכל שלך. בביקורת. בלב. ואז – אולי יחד נוכל לעשות דברים נפלאים.
