צ'אט זמני של ChatGPT: איך זה עובד וכמה זה פרטי

הצ'אט הזמני של ChatGPT הפך ל"מצב גלישה בסתר" של הבינה המלאכותית.תכונה זו מיועדת למי שרוצה לשאול שאלות רגישות, לבחון רעיונות חסויים, או פשוט למנוע משיחה ספציפית להשפיע על שאר הצ'אטים שלהם. אבל ככל שמשתמשים בה יותר, כך עולים ספקות: עד כמה היא באמת פרטית? מה OpenAI מאחסנת? האם המערכת יכולה "לזכור" משהו שהיא כביכול לא מאחסנת?

בחודשים האחרונים צצו עדויות של משתמשים מודאגים. שטוענים שראו מידע שהוזן בצ'אט זמני מופיע שוב בצ'אט רגיל, בנוסף לדיונים טכניים על אופן ניהול הנתונים ה"חולפים" הללו, כגון כשל טייס משנהבמקביל, בתיעוד של OpenAI עצמו מסבירים כי עותק נשמר למשך 30 יום מסיבות אבטחה. כל זה יצר תערובת של עניין, בלבול וחוסר אמון שיש להבהיר ברוגע.

מהו בדיוק הצ'אט הזמני של ChatGPT?

הצ'אט הזמני של ChatGPT הוא מצב שיחה "מיוחד" שנועד להגביר את הפרטיות.הפעלתו מתחילה סשן שאינו נשמר בהיסטוריית הגלישה הרגילה שלך, ולפי OpenAI, אינו משמש לאימון מודלי הבינה המלאכותית שלה. בפועל, זה שווה ערך למצב גלישה בסתר בדפדפנים כמו Chrome, Safari או Firefox, אך מוחל על עוזר שיחה.

בצ'אט רגיל, כל השיחות שלך מוקלטות בחשבונך.ניתן לעיין בהודעות אלו מאוחר יותר והן יהוו חלק מההקשר המסייע להתאים אישית תגובות. לעומת זאת, לצ'אטים זמניים אין המשכיות לאחר סגירת הסשן: לא ניתן לחדש אותם, והם לא מופיעים ברשימת הצ'אטים שלך. מנקודת מבטו של המשתמש, הרעיון ברור: מה שאתה אומר שם נשאר שם.

העזרה הרשמית של OpenAI מתארת ​​מצב זה כשיחה שמתחילה "מאפס".המודל אינו רואה את השיחות הקודמות שלך או ניגש לזיכרונות מהעבר, למרות שהוא עדיין יכול להחיל את ההוראות המותאמות אישית שלך אם הפעלת אותן (לדוגמה, צליל תגובה או הקשר כללי לגבי מה שאתה עושה). הפרדה זו מזכירה מושגים של התאמה אישית כמו גוגל אינטליגנציה אישיתאשר מנהלים את אופן יישום ההעדפות מבלי לערבב הקשרים.

הפרדה זו רלוונטית במיוחד משום ש-ChatGPT לומד מהאינטראקציות שלכם.כל שאלה, כל מסמך שמועלה וכל פרט שאתם משתפים בצ'אטים רגילים יכולים לעזור לחדד את התנהגות המודל עבור שיחות עתידיות. צ'אט זמני מנסה "לשבור" את השרשור הזה ולמנוע מחילופי דברים בודדים להשפיע על תגובות עוקבות או להישאר גלויים בהיסטוריית הצ'אט שלכם.

מה בדיוק קורה כשמפעילים צ'אט זמני?

הפעלת הצ'אט הזמני מפעילה סדרה של שינויים ברורים באופן ניהול הסשן שלך.למרות שבמבט ראשון השימוש דומה מאוד לצ'אט רגיל, מתחתיו ישנם הבדלים חשובים באחסון, בזיכרון ובאימון המודל.

כאשר הצ'אט הזמני פעיל, לפי מידע מ-OpenAI, הדברים הבאים קורים. והתיאורים שכבר הופצו:

• השיחה לא מופיעה בהיסטוריית הצ'אט שלךלא תראה את הכותרת או התוכן בין השיחות האחרונות שלך.
• ChatGPT לא "זוכר" את השיחה הזו לצורך אינטראקציות עתידיותמה שאתה אומר שם לא משמש כהקשר כשאתה חוזר מאוחר יותר לשיחה רגילה.
• תוכן הצ'אט הזמני לא נוסף לזיכרון של ChatGPT. (אם תכונת הזיכרון האישי המתמיד מופעלת אצלך).
• הסשן אינו משמש לאימון מודלים של בינה מלאכותית באופן קבוע.במילים אחרות, זה לא אמור להיכנס למערכת כמו צ'אטים רגילים אם אתם נותנים אישור.
• OpenAI שומר עותק של השיחה עד 30 יום מסיבות אבטחה ותאימות (גילוי ניצול לרעה, הונאה, שימושים בלתי חוקיים וכו'), ולאחר תקופה זו הוא מסיר אותו, גישה דומה לזו של ה- תמונות זמניות של גוגל.

תקופת ההעתקה של עד 30 יום היא אחת הנקודות שמעוררות את הדאגה הגדולה ביותר.למרות שאין לך גישה אליו והוא לא מופיע בממשק שלך, הוא עדיין קיים בשרתי החברה לזמן מוגבל. ההסבר הרשמי הוא בדרך כלל שמסגרת זמן זו נחוצה כדי לחקור שימוש לרעה, להגיב לדרישות משפטיות ולשמור על עקיבות בסיסית.

במהלך הפגישה, ההתנהגות היא של צ'אט "חי" טיפוסי.המודל יכול להתייחס למה שאמרת כמה הודעות קודם לכן, להשתמש בו כהקשר מיידי וליצור תגובות קוהרנטיות. אבל ברגע שאתה סוגר או עוזב את הצ'אט הזמני, השרשור הזה מנותק. אין אפשרות לחזור ימים לאחר מכן ולהמשיך מהמקום שבו הפסקת.

למה בעצם נועד הצ'אט הזמני ב-ChatGPT?

השימוש הברור ביותר בצ'אט זמני הוא כאשר צריך לדון בנושאים אישיים, רגישים או עדינים במיוחד. ואתה לא מרגיש בנוח עם זה שהם מוקלטים בתיק שלך או שישמשו אותך לאימון המודל. זה כולל שיחות על בריאות, כספים, סכסוכים בעבודה, בעיות משפחתיות, פיתוח רעיונות עסקיים וכו'.

משתמשים רבים משתמשים בו דווקא כאשר הם נאלצים לשתף נתונים שהם היו מעדיפים לא "שיתועדו".זה יכול להיות מסמך המכיל מידע פרטי, טקסט משפטי עם שמות פרטיים, אסטרטגיה מקצועית סודית, או פרטים שיכולים לזהות אנשים ספציפיים. אמנם אפס סיכון אינו אפשרי, צ'אט זמני מאפשר לך להפחית את החשיפה הזו בהשוואה לשימוש בחדרי צ'אט רגילים.

אבל יש שימושים יומיומיים ושגרתיים יותר שגם הם משתלבים מצוין עם מצב זה.לדוגמה, אם ביליתם שבועות ב"אימון" של ChatGPT להגיב בסגנון, טון או גישה מקצועיים מסוימים, ייתכן שלא תרצו ששאלה אחת, שונה לחלוטין, תשבש את ההתאמה האישית הזו. צ'אט זמני משמש כאזור ניטרלי: אתם שואלים את השאלה שלכם, מקבלים את התשובה, וזה לא משפיע על שאר החוויה שלכם.

זה גם שימושי כשאתה מחפש תשובות שלא הושפעו משיחות קודמות שלך.אם דנתם בנושא ספציפי מאוד במשך מספר ימים (לדוגמה, פרויקט העבודה שלכם) ופתאום רוצים לבקש עזרה במשהו שונה לחלוטין (עניין אישי, שאלה משפטית, בעיה טכנית קשורה מעט), הצ'אט הזמני מבטיח "בד ריק" שבו למערכת אין אינרציה מוקדמת.

בסביבות מקצועיות ועסקיות, לגישה זמנית זו יש השלכות רבות אף יותר.צוותי פיתוח, מחלקות שיווק או חברות ייעוץ יכולים להשתמש בצ'אטים זמניים כדי לבצע בדיקות מהירות, ניסויי A/B, ליצור אבות טיפוס של סוכני שיחה, או לעבוד על זרימות עבודה מבלי שהתוכן יתערבב עם הנתונים ה"רציניים" שמאמנים את המודל המשמש בייצור.

מה הצ'אט הזמני לא עושה (ומהן המגבלות שלו)

אחת מהתפיסות האי-הבנות הנפוצות ביותר היא לחשוב שצ'אט זמני הוא מצב אנונימי לחלוטין וללא עקבות.זה כמעט כאילו אתה מדבר עם מודל מקומי שקיים רק במחשב שלך. זה לא המקרה. למרות שזה מוסיף שכבות של פרטיות בהשוואה לצ'אטים רגילים, יש לו מגבלות ברורות שיש לזכור.

קודם כל, צ'אט זמני אינו שיחה שניתן לחדש מאוחר יותר.זה ספציפי, כמעט "חד פעמי". אם אחרי זמן מה תרצו לחזור לאותו נושא עם ההקשר המלא, אין דרך להמשיך מהנקודה שבה הפסקתם: תצטרכו להתחיל מאפס בצ'אט אחר, זמני או רגיל.

זה גם לא יאפשר לך לעקוף את ההגבלות או המגבלות של התוכנית שלךאם לחשבונך יש מכסות שימוש ספציפיות, מגבלות הודעות, תבניות זמינות או תכונות, הצ'אט הזמני כפוף לאותם כללים. זו לא דרך לעקוף בקרות, מסנני תוכן או מדיניות אבטחה.

היבט חשוב נוסף הוא שלמרות שהצ'אט הזמני אינו משמש לאימון המודליםייתכן שהשיחה עדיין תיבדק באופן פנימי במהלך 30 הימים הללו (לדוגמה, לצורך ביקורות אבטחה או תגובה לאירועים). משמעות הדבר היא שזו לא מערכת מאובטחת ב-100% שבה אף אחד אחר לא יכול לראות את מה שכתבת.

יתר על כן, נותרה אי ודאות לגבי מה בדיוק משמעותו של "אי אימון המודלים".ההבטחה הרגילה של החברה היא שנתונים אלה לא ישולבו באימון הכולל ולא ישמשו לשיפור המודל הגלובלי. עם זאת, משתמשים רבים תוהים האם ניתן להשתמש בהם בצורה מצטברת, אנונימית, או לבדיקות פנימיות. חוסר שקיפות זה מלבה חלק מחוסר האמון.

המקרה של המשתמש שראה נתוני צ'אט זמניים מופיעים שוב

אחד הסיפורים שיצרו את מירב הבאזז הוא של משתמש שהשתמש בצ'אט זמני כדי לעבוד על רעיון חדש.זה בדיוק מה שהיא לא רצתה שיתועד או שיקושר לפרופיל שלה. באותו רגע, היא הניחה שמה שאמרה באותה פגישה יישאר מבודד ולא יבוצע מעקב.

ימים לאחר מכן, בצ'אט רגיל, היא התחילה לבקש רעיונות לעדכון הביוגרפיה שלה באינסטגרם.לפי דבריו, המערכת החלה להציע ביטויים ופרטים שהוא לבדו הזכיר בצ'אט הזמני הזה, מה שהפעיל נורות אזהרה. כאשר אמר במפורש לבינה המלאכותית שהיא משתמשת בתוכן מהצ'אט הזמני, המודל התנצל, הצהיר כי שילב מידע זה בזיכרון שלו והבטיח למחוק כל דבר שקשור לשיחה זו.

התנהגות זו העלתה שאלה רצינית מאוד: האם המודל באמת שאב מידע מהצ'אט הזמני? או שמא הוא פשוט "הזה" ונתן תשובות גנריות שהמשתמש פירש כצירופי מקרים? הצד הנפגע עצמו הודה שההסבר הרשמי דיבר על טעות מודל (הזיה) ולא על הפרה מכוונת של הפונקציה הזמנית.

מודאג, הוא יצר קשר עם התמיכה של OpenAI.התגובה שקיבל הייתה שלפי המערכות שלהם, מחיקת צ'אטים ושימוש במצב זמני פירושם שהנתונים לא נשמרים ולא משמשים לאימון המודלים. צוות התמיכה הציע בלבול אפשרי והסביר שייתכן שהמודל בלבל מידע או פיבר פרטים, תופעה שכיחה במודלים לתואר ראשון (LLM) כאשר הם מנסים להיות שימושיים ללא נתונים מספיקים.

המשתמש, עם זאת, עדיין לא הבין את ההסבר הזה בצורה ברורה.התחושה שלו הייתה שהפרטים ספציפיים מדי מכדי שיהיו צירוף מקרים גרידא. לאחר מכן, התמיכה ביקשה ממנו דוגמאות קונקרטיות, חותמות זמן וקטעים מדויקים של ההודעות כדי שיוכלו לחקור לעומק. וכאן התנגשו שתי מציאויות: הצורך בראיות טכניות וסירובו של המשתמש לשתף נתונים פרטיים שהוא רצה במיוחד לשמור בסוד.

תגובת OpenAI והספקות שנותרו

המדיניות הרשמית של OpenAI ברורה: נתוני צ'אט זמניים אינם משמשים לאימון מודלים והנתונים נמחקים לאחר 30 יום לכל היותר.עם זאת, ניתן לשמור עותק במהלך תקופה זו למטרות אבטחה, תאימות לחוק וזיהוי שימוש לרעה. מנקודת מבט של מוצר, המסר הוא שאם אתם רוצים שכבת פרטיות נוספת, השתמשו בתכונת הצ'אט הזמנית ומחקו את היסטוריית הצ'אט שלכם כשאתם רואים זאת לנכון.

הבעיה היא שההבטחה הזו מתנגשת עם התחושה בקרב משתמשים רבים שהשקיפות מוגבלת.אין דרך קלה לבדוק מבחוץ בדיוק מה נעשה עם הנתונים האלה. אי אפשר להיכנס ללוח מחוונים ולראות כיצד נוהלו הצ'אטים הזמניים שלך, וגם לא ניתן לאמת באופן עצמאי שהם לא שימשו למטרות הדרכה.

וכדי להחמיר את המצב, טבעם של מודלים לשוניים מקל על טשטוש בין צירופי מקרים לזיכרונות.אם אמרתם משהו ספציפי מאוד אך לא ייחודי לחלוטין, המודל עשוי לייצר תגובה דומה מאוחר יותר עקב הסתברות לשונית טהורה, והמוח שלכם עשוי לפרש שהוא "זוכר" את מה שאמרת, למרות שזה בעצם רק שילוב מחדש של דפוסים.

במקרה שהוזכר, תמיכת OpenAI אף הודתה שהמודל "הזתה" כאשר אמרה ששילב את המידע הזה בזיכרון שלה.במילים אחרות, ChatGPT עצמו בדה את הטענה שהוא משתמש בנתוני צ'אט זמניים ואז מוחק אותם. טענות שקריות מסוג זה מצד המודל משמשות כתזכורת לכך שההסברים שלו לגבי אופן פעולתו הפנימית אינם תמיד אמינים: הוא נותר מחולל טקסט, לא כלי אבחון שקוף עבור המערכת שלו.

השוואה עם מצב גלישה בסתר בדפדפן

האנלוגיה החוזרת ונשנית בתדירות הגבוהה ביותר היא זו של כרום ומצב גלישה בסתר המפורסם שלו.אשר במשך שנים נמכר כמעין גלימת היעלמות, ומאוחר יותר התברר כי יש לה מגבלות רבות יותר ממה שהשיווק רמז. הקבלה זו הובילה רבים לדבר על "רגע מצב גלישה בסתר" של OpenAI.

בדפדפני אינטרנט, מצב גלישה בסתר מונע מהמכשיר שלך לשמור היסטוריה, קובצי Cookie או טפסים.עם זאת, אין בכך כדי למנוע מספק האינטרנט שלך, מהאתר שאתה מבקר בו או מהחברה שלך (אם אתה נמצא ברשת ארגונית) לתעד את הפעילות שלך. משהו דומה קורה עם צ'אט זמני: זה משפר את הפרטיות מנקודת המבט של החשבון וההיסטוריה שלך, אבל זה לא אומר שהנתונים לא עוברים דרך שרתי החברה או שאין רישום זמן.

ההבדל הגדול הוא שכאן אנחנו לא רק מסכנים את היסטוריית הגלישה שלנו.אלא גם מידע מורכב: רעיונות עסקיים, מסמכים פנימיים, אסטרטגיות מקצועיות, נתונים אישיים, או אפילו חומר סודי. לפיכך, הציפיות לפרטיות גבוהות בהרבה, וכל חוסר עקביות מייצר חוסר אמון רב.

ספקות אלה הובילו משתמשים מסוימים לטעון כי הפרטיות ואבטחת הסייבר של OpenAI "רפויות".במיוחד כאשר הם מבקשים מהנפגעים לשתף נתונים ספציפיים כדי לנתח שגיאות פוטנציאליות. מנקודת מבטו של המשתמש הסופי, התשובה "שלחו לנו את כל מה שהשתבש, בפירוט" יכולה להתנגש עם המציאות שהם דווקא לא רוצים לשתף את המידע הזה עם אף אחד.

השלכות טכניות ועסקיות: אחסון סשן לעומת אחסון מתמשך

מנקודת מבט טכנית, האתגר טמון בהפרדה ברורה בין הקשר הסשן לבין אחסון מתמשך.כלומר, הבחנה בין מה שהמודל צריך לראות בזמן אמת כדי להגיב (מה שאתם שולחים לו באותו רגע) לבין מה שנשמר לאחר מכן כחלק מפרופיל או מערך נתונים של אימון.

שיטות עבודה מומלצות בפלטפורמות שיחה מתקדמות כוללות הצפנת נתונים ברמת הסשן.החל מדיניות שמירה ניתנת להגדרה ושמור על מעקב אחר אירועים. זה מאפשר חוויות מותאמות אישית ביותר במהלך שיחה ספציפית מבלי שמידע רגיש יתערבב עם הנתונים הקבועים של המשתמש או המערכת.

בסביבה עסקית, צ'אטים זמניים שימושיים במיוחד עבור נציגי תמיכה. הם צריכים לזכור מה קורה בתוך אינטראקציה ספציפית (לדוגמה, האירוע שהלקוח מתאר) מבלי שהנתונים הללו ישולבו באופן בלתי נשלט ב"מוח" הכולל של החברה. זה כולל גם הוכחות היתכנות, פיילוטים פנימיים ואבות טיפוס שנועדו להיות מבודדים מסביבת הייצור.

חברות המפתחות יישומים מותאמים אישית משלבות לעתים קרובות שירותי ענן עם אחסון הקשר זמני.צינורות אנונימיזציה ומערכות ביקורת חיוניים גם הם. המטרה היא שבינה מלאכותית תספק תגובות עקביות לאורך כל הפגישה מבלי ליצור ארכיון אינסופי של כל מה שנאמר. שילוב זה עם לוחות מחוונים, כלי ניתוח ואפילו בינה עסקית דורש תכנון הארכיטקטורה תוך מחשבה על גמישות וניהול נתונים.

בינתיים, ביטחון ורגולציה כופים את סדר היום שלהםבדיקות אבטחת סייבר, בדיקות חדירה, הקשחת מערכת ובקרות גישה רציפות הן חיוניות בעת טיפול במידע רגיש, גם אם הוא תיאורטית "חולף". כשל בשכבת האבטחה יכול להפוך צ'אט זמני למקור דליפות חמור כמו כל מסד נתונים קבוע.

האם באמת הכל נעלם אחרי 30 יום?

אחת השאלות הגדולות שרבים שואלים היא האם ישנן ראיות מוצקות לכך שנתוני צ'אט זמניים נמחקים לחלוטין. לאחר 30 הימים הללו, הם לא יהיו בשימוש "בשום צורה" לאחר מכן. נכון לעכשיו, התשובה הכנה היא שאנו תלויים באמון במדיניות הפנימית של החברה ובחוקים המחייבים אותה לציית לה.

אין דרך ציבורית לבקר ישירות את המחיקה הזו מחשבון המשתמשאי אפשר לפתוח לוח מחוונים המציג כיצד כל שיחה נמחקה, וגם אין דוח להורדה המפרט השמדת נתונים. בפועל, זוהי הבטחה חוזית: OpenAI טוענת שהיא עושה זאת, ואם לא תעשה זאת, היא תתמודד עם בעיות משפטיות ותדמית משמעותיות.

עבור משתמשים שמודאגים מאוד מפרטיותם, זה אולי לא מספיק.למעשה, יש אנשים שמעדיפים להשתמש רק במודלים מקומיים (LLMs הפועלים על המחשב שלהם) כדי לקבל שליטה מלאה על מקומות האחסון של הנתונים שלהם. הבעיה, כפי שרבים מציינים, היא שחומרה ביתית לא תמיד עומדת במשימה: הדגמים החזקים ביותר דורשים מכונות תובעניות מאוד, ובציוד צנוע, החוויה הופכת איטית ומוגבלת.

בינתיים, ChatGPT נותרה עבור רבים האפשרות המציעה את התגובות האיכותיות ביותרזה מחייב איזון מסוים: שימוש בו למה שמוסיף את הערך הרב ביותר, אך עם הסתייגויות משיתוף מידע שהם לא רוצים שיעזוב את המעגל הקרוב שלהם. צ'אט זמני מקל על חלק מהפחד הזה, אך לא מבטל אותו לחלוטין.

בהינתן מציאות זו, ההמלצה המעשית היא בדרך כלל להשתמש בצ'אט זמני כדי להפחית חשיפה.הימנעו משליחת נתונים שלא הייתם משתפים עם אף שירות מקוון אחר, ואם רמת הרגישות קיצונית, שקלו ברצינות פתרונות מקומיים או מודלים מקומיים, גם אם הם כרוכים בעלויות גבוהות יותר וביצועים גרועים יותר.

בקיצור, הצ'אט הזמני של ChatGPT הוא כלי שימושי להפרדת שיחות רגישות מהשימוש היומיומי שלכם.עם זאת, זו אינה ערובה מוחלטת לאנונימיות או פתרון קסם לכל סוגיות הפרטיות. זה עוזר למנוע מנושאים מסוימים להשפיע על הצ'אטים העתידיים שלך, להישמר בהיסטוריה שלך ולאמן את המודל, במחיר של קבלת העובדה שהם יישארו בשרתי OpenAI עד 30 יום במסגרת כללי האבטחה והתאימות שלהם.