Perspectives
ممنوع کردن ChatGPT داده‌ی شما را داخل نگه نمی‌دارد
مردم همان‌جا می‌چسبانند که کار سریع‌تر پیش می‌رود.
By Ehsan Gazar, ۱ آبان ۱۴۰۵
یکی از همکاران واحد مالی باید تا ساعت سه خلاصه‌ی یک قرارداد را آماده کند. قرارداد را روی گوشی شخصی‌اش در ChatGPT می‌چسباند، چون از هر ابزاری که شرکت در اختیارش گذاشته سریع‌تر است.
هیچ‌کس این را نمی‌بیند. شرکت نه سابقه‌ای از آن دارد، نه قراردادی که آن را پوشش دهد، و نه راهی برای پس گرفتنش.
پس پاسخ آشنا از راه می‌رسد: یک بخشنامه، و یک وب‌سایت مسدود. یک ماه بعد همان قرارداد در همان برنامه چسبانده می‌شود، این بار روی لپ‌تاپ شخصی در خانه.
ممنوعیت داده را داخل شرکت نگه نداشت. فقط چسباندن را به جایی برد که دیگر نمی‌بینید.
چرا ممنوعیت دوام نمی‌آورد
کسی از سر بی‌دقتی فایل محرمانه را در چت‌بات نمی‌چسباند. این کار را می‌کند چون چت‌بات کمکش می‌کند و ضرب‌الاجل واقعی است.
ممنوعیت کمک را برمی‌دارد و ضرب‌الاجل را نگه می‌دارد. کار همچنان باید انجام شود، پس مردم نزدیک‌ترین ابزاری را پیدا می‌کنند که انجامش می‌دهد.
آن ابزار یک حساب شخصی است. بیرون از ورود سازمانی، قراردادها و سوابق شما قرار دارد. مسدود کردنش در فایروال دفتر فقط شبکه‌ای را عوض می‌کند که چسباندن از آن عبور می‌کند، نه بیشتر.
این کار در طرف دیگر هم هزینه دارد. کسانی که از ممنوعیت پیروی می‌کنند از کسانی که پیروی نمی‌کنند عقب می‌افتند، و هر دو گروه این را می‌بینند.
پرسش این نیست که چطور جلوی استفاده‌ی مردم از هوش مصنوعی را بگیریم. پرسش این است که چطور راه امن را سریع‌ترین راه کنیم.
ابزار تأییدشده باید ابزار بهتر باشد
اگر ابزار شرکت از ابزار رایگان روی گوشی کندتر یا ضعیف‌تر باشد، مردم همچنان سراغ گوشی می‌روند. ابزار تأییدشده فقط وقتی برنده می‌شود که در همان کار دست‌کم به همان خوبی باشد.
دستیار وطن ابزار هوش مصنوعی خود فضای کاری است. افراد با همان سرویس هویتی که شرکت از قبل دارد وارد می‌شوند، مثل Entra، Okta یا Google Workspace، روی دامنه‌ای که شرکت مالکیتش را ثابت کرده است.
دستیار مدل‌هایی از چند ارائه‌دهنده عرضه می‌کند، نه فقط یکی. پس کسی به خاطر اینکه مدل دیگری بهتر می‌نویسد به برنامه‌ی دومی نیاز ندارد. دستیار همچنین می‌تواند از اسناد خود شرکت پاسخ دهد، چیزی که یک حساب شخصی هرگز نمی‌بیند.
اینکه چه کسی می‌تواند از آن استفاده کند یک مجوز است که برای هر تیم تعیین می‌شود، و هر تیم می‌تواند بودجه‌ی خودش را داشته باشد.
این همان بخشی است که از یک بخشنامه برنمی‌آید. جای بهتری برای کار به مردم می‌دهد، با قواعدی که در خودش ساخته شده است.
محافظ‌ها در مسیر خروج
قواعد مربوط به اینکه چه چیزی را می‌شود چسباند، بهتر است جایی اجرا شوند که داده از شرکت خارج می‌شود، نه فقط در سندی که مردم یک بار می‌خوانند.
هر پیام گفت‌وگویی که دستیار برای یک مدل می‌فرستد از درگاه وطن عبور می‌کند، همان درگاهی که برنامه‌های خود شرکت هم از آن استفاده می‌کنند. پنهان‌سازی همان‌جا، یک بار، برای کل فضای کاری تنظیم می‌شود. برای همه‌ی افراد آن فضای کاری اعمال می‌شود، بی‌آنکه کسی آن را برای تک‌تک افراد تنظیم کند.
پنهان‌سازی دنبال شناسه‌هایی می‌گردد که شکلی ثابت و قابل‌بررسی دارند. نشانی‌های ایمیل، شماره‌کارت‌هایی که از آزمون Luhn می‌گذرند، شماره‌های IBAN و شماره‌های بیمه‌ی ملی بریتانیا را پیدا می‌کند. شماره‌های تأمین اجتماعی آمریکا و قالب‌های رایج کلیدهای API را هم پیدا می‌کند.
در حالت پنهان کردن، هر کدام پیش از خروج پیام با یک جای‌نگهدار نوع‌دار مثل [EMAIL] جایگزین می‌شود. مدل همچنان می‌تواند با جمله کار کند، و نشانی هرگز به ارائه‌دهنده نمی‌رسد.
در حالت مسدود کردن، پیامی که یکی از این‌ها را داشته باشد به‌طور کامل رد می‌شود و هیچ چیزی برای هیچ ارائه‌دهنده‌ای فرستاده نمی‌شود. پیام رد می‌گوید چه نوع شناسه‌ای جلوی آن را گرفت، اما هرگز خود مقدار را نمی‌گوید.
هر دو حالت خاموش‌اند تا کسی روشنشان کند. یک نام یا یک تشخیص پزشکی شکل ثابتی ندارد، پس این‌ها همچنان به عهده‌ی چیزی است که به مردم آموزش داده می‌شود.
داده کجا می‌رود و چه چیزی نگه داشته می‌شود
هر پرامپت به شرکتی می‌رود که مدل انتخاب‌شده‌ی آن فرد را ارائه می‌کند، و نام همه‌ی این شرکت‌ها در فهرست پردازشگرهای فرعی آمده است. وطن هیچ مدلی را با آن آموزش نمی‌دهد.
گفت‌وگوهایی که یک فضای کاری نگه داشتنشان را انتخاب می‌کند، با کلیدی رمزگذاری می‌شوند که فقط به همان فضای کاری تعلق دارد. خود آن کلید هم با کلید دیگری رمزگذاری می‌شود که هرگز در پایگاه داده نیست.
سابقه‌ی مصرف هر درخواست تعداد توکن‌ها، هزینه و زمان آن را نگه می‌دارد. هرگز خود پرامپت یا پاسخ را نگه نمی‌دارد. شرکت خودش انتخاب می‌کند این سوابق چه مدت نگه داشته شوند.
پس یک مدیر می‌تواند ببیند کدام تیم‌ها از هوش مصنوعی استفاده می‌کنند و چه هزینه‌ای دارد، بی‌آنکه کسی آنچه را پرسیده شده بخواند. شرح کامل در صفحه‌ی با داده‌های شما چه می‌کنیم آمده است.
یک تیم از کجا شروع کند
قدم اول مفید کوچک است. تیمی را انتخاب کنید که همین حالا در یک چت‌بات شخصی می‌چسباند، و از آن‌ها بپرسید برای کدام سه کار از آن استفاده می‌کنند.
دستیار را با پنهان‌سازی روشن در اختیار آن تیم بگذارید و یک بودجه‌ی ماهانه تعیین کنید. بعد بگذارید دو هفته همان سه کار را آنجا انجام دهند.
در پایان بپرسید چه چیزی کم بود. اگر هنوز سراغ گوشی‌شان رفتند، همان شکاف را نشان می‌دهد. ممکن است یک مدل باشد، یک سند، یا مرحله‌ای که بیش از حد طول می‌کشد.
آن شکاف را ببندید تا ممنوعیت دیگر لازم نباشد، چون ابزار شرکت همین حالا سریع‌ترین راه رسیدن به پاسخ است.
بخشنامه را نگه دارید، اما آن را یک خط کنید. برای کار از ابزار شرکت استفاده کنید، و این هم روش ورود به آن.
مردم وقتی داده را داخل شرکت نگه می‌دارند که ابزار امن همان ابزاری باشد که کار را پیش می‌برد.