שלוש הדרכים שבהן בינה מלאכותית נוגעת במידע שלכם: קריאות API, RAG, וכוונון עדין

מידע אישי מגיע למערכת בינה מלאכותית באחת משלוש דרכים נפרדות, והן נושאות רמות סיכון שונות מאוד — עובדה שרוב שאלוני הספקים לא שואלים עליה, כי רוב הספקים גם לא מבחינים ביניהן.

שימוש במודל (API וישיר)

זה המקרה הפשוט ביותר: המערכת שלכם שולחת מידע למודל, מקבלת תשובה, וגורל המידע מכאן ואילך תלוי כולו בחוזה ובהגדרות של הספק — האם הספק שומר את הקלט, האם הוא משתמש בו לאימון, ולכמה זמן. זה הפיך במלואו במובן שחשוב: שנו את החוזה, שנו את ההגדרה, או הפסיקו לשלוח את המידע, והחשיפה נעצרת. הבעיה היא שההגדרה לרוב שגויה או לא מאומתת. שכבות “ארגוניות” (Enterprise) לעיתים קרובות מכבות שימוש באימון כברירת מחדל; שכבות חינמיות או נמוכות יותר לרוב לא. באיזו שכבה הצוות שלכם באמת נמצא, ומה ההגדרה בפועל שלה, זו עובדה — לא הנחה ששווה לקחת מדף השיווק של הספק.

RAG: האינדקס שאף אחד לא זוכר לבדוק

אחזור מועשר (RAG) שומר את המידע שלכם באינדקס אחזור נפרד שהמודל שואל בזמן מתן התשובה. המידע לא נמצא בתוך המודל עצמו, כך שמחיקה הפיכה עקרונית — אבל בפועל, בקשת מחיקה צריכה להגיע לכל עותק: האינדקס, כל מטמון (cache), כל גיבוי, כל מערכת במורד הזרם שקלטה את תוצאות האחזור. רוב הארגונים יכולים לספר לכם שלמסד הנתונים הראשי שלהם יש נתיב מחיקה. הרבה פחות ארגונים יכולים לספר לכם אם לאינדקס ה-RAG שלהם יש נתיב כזה, או אם הוא אי פעם נבדק.

כוונון עדין (Fine-tuning): הדלת החד-כיוונית

כוונון עדין מאמן מודל נוסף על המידע שלכם, שנספג במשקלי המודל עצמו. זה בלתי הפיך בכל מובן מעשי — אין פעולה שמסירה את המידע של לקוח אחד ממודל שעבר כוונון עדין בלי לאמן אותו מחדש מאפס. אם מידע אישי הגיע להרצת כוונון עדין, “מחקנו אותו ממסד הנתונים שלנו” לא אומר שהוא נעלם מהמודל שאומן עליו. זו החשיפה הגבוהה מבין השלוש, וזו שהכי סביר שקורית איפשהו בצינור העיבוד של ספק בלי שהצוות שלכם קיבל עליה החלטה מפורשת.

למה זה משנה לרשימת הספקים שלכם

שאלון ספקים ששואל “האם אתם משתמשים בבינה מלאכותית” מייצר תשובת כן/לא שמסתירה את פרופיל הסיכון האמיתי. ספק שמבצע קריאות API פשוטות עם אימון מכובה הוא חשיפה שונה מאוד מאותו ספק שמריץ את המידע שלכם דרך כוונון עדין, או שומר אותו באינדקס RAG לא מנוהל — ומבחוץ, שני הספקים יכולים להיראות זהים לגמרי בדף מכירות.

מה לשאול ספק לפני שחותמים

איזו מבין השלוש חלה על כל תכונה שתשתמשו בה בפועל, לא על המוצר בכללותו. מה הגדרת השימור בשכבת החשבון הספציפית שלכם, לא המדיניות הכללית של הספק. האם בקשת מחיקה מגיעה גם לאינדקס האחזור ולא רק למאגר הראשי. והאם כוונון עדין קורה בכלל — ואם כן, על סמך מה, ומה הנתיב המעשי להסרת המידע שלכם אם הקשר מסתיים.