Perspectives
سیاست هوش مصنوعی‌ای که کسی نتواند اجرا کند، سیاست نیست
قاعده را همان‌جا بنویسید که کار انجام می‌شود.
By Ehsan Gazar, ۱ آبان ۱۴۰۵
شرکت شما یک سیاست هوش مصنوعی دارد. دوازده صفحه است، بهار گذشته تأیید شد، و در پوشه‌ای قرار دارد که بیشتر افراد هرگز بازش نکرده‌اند.
از هر کسی در تیم بپرسید آیا اجازه دارد فاکتور یک تأمین‌کننده را در یک چت‌بات بچسباند. نمی‌داند، و سیاست هم به‌سرعت به او نمی‌گوید.
قاعده‌ای که مردم نتوانند درست در لحظه‌ی نیاز به کارش ببرند، قاعده نیست. سندی است که از نویسنده‌اش محافظت می‌کند.
چرا سیاست طولانی شکست می‌خورد
بیشتر سیاست‌های هوش مصنوعی طوری نوشته می‌شوند که همه‌ی حالت‌ها را پوشش دهند. برای همین است که هیچ‌کس نمی‌تواند از آن‌ها استفاده کند.
طولانی بودن تقصیر نویسنده نیست. سیاستی که برای بررسی حقوقی نوشته می‌شود باید قابل‌دفاع باشد، و قابل‌دفاع یعنی کامل.
سیاست‌های طولانی با دسته‌ها حرف می‌زنند: داده‌های شخصی، اطلاعات حساس تجاری، محتوای مشمول مقررات. کسی که پشت صفحه‌کلید نشسته هیچ‌کدام از این‌ها را ندارد. او یک قرارداد دارد، یک صفحه‌گسترده از ایمیل‌های مشتریان، و پیش‌نویس نامه‌ای به یک تأمین‌کننده.
تبدیل یکی به دیگری قضاوت، زمان و خواندن دقیق صفحه‌ی هفت را می‌طلبد. ساعت سه بعدازظهر و با یک ضرب‌الاجل، هیچ‌کس این کار را نمی‌کند.
پس مردم یا استفاده از هوش مصنوعی را کنار می‌گذارند، یا از آن استفاده می‌کنند و امیدوار می‌مانند. هیچ‌کدام هدف آن سیاست نبود.
سه پاسخ، دسته‌بندی‌شده به دست کسانی که کار را انجام می‌دهند
سیاستی که مردم بتوانند از آن پیروی کنند، به یک پرسش درباره‌ی کارهای خودشان پاسخ می‌دهد: آیا می‌توانم این را در یک ابزار هوش مصنوعی بگذارم؟
فقط سه پاسخ به کار می‌آید. امن، یعنی ادامه بده. با احتیاط، یعنی فقط در ابزار شرکت و پس از حذف چیزی از آن. هرگز، یعنی در هیچ ابزاری.
نمونه‌ها باید از هفته‌ی کاری خود تیم بیایند. «داده‌ی مشتری» یک دسته است. «فهرست تمدید با نام‌ها و شماره‌تلفن‌ها» چیزی است که هر کسی فوراً می‌شناسد.
این دسته‌بندی را کسانی انجام می‌دهند که کار را انجام می‌دهند، نه اینکه برایشان نوشته شود. در کارگاه «هوش مصنوعی برای تیم‌ها» از توانمندسازی هوش مصنوعی، هر تیم نمونه‌های واقعی از کار خودش را در سه دسته‌ی امن، با احتیاط و هرگز قرار می‌دهد.
فهرست «با احتیاط» از همه مهم‌تر است. تصمیم‌های واقعی آنجاست، مثل قراردادی که قیمت‌هایش حذف شده، یا ایمیل مشتری‌ای که نامش برداشته شده است.
آنچه با خود می‌برند راهنمایی یک‌صفحه‌ای به زبان خودشان است. آن‌قدر کوتاه است که در ذهن بماند، و آن‌قدر مشخص که پرسش فاکتور را در یک لحظه حل کند.
قواعدی که یک ابزار می‌تواند بررسی کند
بعضی قواعد هرگز نباید به یادآوری کسی وابسته باشند. ابزار شرکت می‌تواند این‌ها را نگه دارد، تا صفحه مجبور به نگه داشتنشان نباشد.
«از ابزار شرکت استفاده کنید، نه حساب شخصی» اولی است. در وطن، افراد از طریق سرویس هویتی خود شرکت وارد فضای کاری می‌شوند، و دستیار با مدل‌هایی از چند ارائه‌دهنده همان‌جاست.
«هرگز شماره‌ی کارت یا اطلاعات بانکی نچسبانید» دومی است. پنهان‌سازی در درگاه وطن شناسه‌هایی با شکل ثابت را پیدا می‌کند، مثل نشانی‌های ایمیل، شماره‌کارت‌ها، شماره‌های IBAN و شماره‌های بیمه‌ی ملی بریتانیا.
یا هر کدام را پیش از خروج پیام با یک جای‌نگهدار جایگزین می‌کند، یا کل پیام را رد می‌کند. تا وقتی فضای کاری روشنش نکند خاموش است. جای‌نگهدار جمله را قابل‌استفاده نگه می‌دارد: مدلی که از آن خواسته شده پاسخی به [EMAIL] بنویسد، همچنان می‌تواند بنویسد.
«فقط این تیم‌ها می‌توانند برای این کار از هوش مصنوعی استفاده کنند» سومی است. دسترسی به دستیار مجوزی است که برای هر تیم تعیین می‌شود، و هر تیم می‌تواند بودجه‌ی خودش را داشته باشد.
«باید بدانیم هوش مصنوعی چطور استفاده می‌شود» چهارمی است. هر درخواست یک سابقه‌ی مصرف با تعداد توکن‌ها، هزینه و زمانش به جا می‌گذارد، و هرگز خود پرامپت را نه.
هر کدام از این‌ها یک خط را از سیاست بیرون می‌آورد و جایی می‌گذارد که فراموش نشود. آنچه برای به یاد سپردن باقی می‌ماند کوتاه‌تر می‌شود.
قواعدی که فقط آدم‌ها می‌توانند نگه دارند
یک ابزار می‌تواند شماره‌ی کارت را پیدا کند. نمی‌تواند تشخیص دهد که یک بند بیماری یک کارمند را شرح می‌دهد، یا اینکه یک پیش‌نویس دارد چیزی را وعده می‌دهد که واحد حقوقی تأیید نکرده است.
این قواعد با آدم‌ها می‌مانند، و همین‌ها ارزش آموزش دادن دارند. هر عدد را با منبع بسنجید. هرگز نگذارید هوش مصنوعی درباره‌ی یک فرد تصمیم نهایی بگیرد. متن حقوقی‌ای را که هیچ‌کس نخوانده نفرستید.
چنین قضاوتی با تمرین روی نمونه‌های واقعی بهتر می‌شود، نه با سندی طولانی‌تر.
یک سیاست کوتاه می‌تواند همه‌ی این‌ها را در یک صفحه بگوید، چون قواعدی که ابزار از قبل نگه می‌دارد دیگر هر کدام به یک بند نیاز ندارند.
درست نگه داشتن آن
سیاست از روزی کهنه می‌شود که تیمی نوع تازه‌ای از کار را شروع کند. فهرست تمدید به سامانه‌ی تازه‌ای می‌رود، یا کسی شروع به نوشتن پیش‌نویس مناقصه‌ها می‌کند.
ساده‌ترین راه این است که فهرست «با احتیاط» را همان فهرستی بدانید که باید زیر نظر باشد. هر چند ماه یک بار آن را با هر تیم مرور کنید، و بپرسید مردم واقعاً با هر مورد چه کردند. وقتی چیز تازه‌ای بیش از یک بار به آنجا می‌رسد، یا ابزار شرکت یاد می‌گیرد آن را مدیریت کند، یا به یک «هرگز» روشن تبدیل می‌شود.
این کار صفحه را کوتاه نگه می‌دارد، چون هر قاعده‌ای که ابزار بر عهده می‌گیرد از سیاست بیرون می‌رود.
سیاستی که مردم بتوانند از آن پیروی کنند، کوتاه‌تر از سیاستی است که نادیده‌اش می‌گیرند، چون بقیه را ابزار نگه می‌دارد.