درگاه هوش مصنوعی میان برنامههای شما و همهی ارائهدهندگان مدل قرار میگیرد. این نوشته توضیح میدهد چه کاری انجام میدهد، نداشتنش چه هزینهای برایتان دارد، و از کجا بفهمید به نقطهای رسیدهاید که به آن نیاز دارید.
با یک تیم، یک کلید API و یک کارت شرکتی شروع میشود. در تیم چهارم به مشکل تبدیل میشود؛ وقتی هیچکس نمیتواند بگوید سازمان چقدر هزینه کرده، کدام مدلها در محیط عملیاتیاند، یا اینکه دادهی مشتری از مجموعهی سیستمهای سازمان خارج شده یا نه.
هر سازمانی سرانجام این مسئله را حل میکند. تنها پرسش این است که آگاهانه حل میشود یا در میانهی یک حادثه کشف میشود.
مسیریابی و انتقال خودکار: یک نقطهی پایانی در برابر ارائهدهندگان متعدد، با زنجیرهای که وقتی یک ارائهدهنده دچار افت میشود به مدل بعدی منتقل میشود. قطعیهای ارائهدهندگان آنقدر زیاد است که همین بهتنهایی هزینهی این لایه را جبران میکند.
بودجه و سقف نرخ درخواست برای هر کلید، که اعمال میشوند، نه فقط گزارش. بودجهای که فقط هشدار میفرستد یک گزارش است، نه یک کنترل.
محافظها پیش از مسیریابی اعمال میشوند، بنابراین پنهانسازی مدلهای خودمیزبان را هم پوشش میدهد؛ همانجایی که مردم تصور میکنند قاعده اعمال نمیشود.
گزارشی از درخواستها با مسیر، توکنها، هزینه و نتیجه، که آنقدر نگه داشته میشود که بتوان به پرسشی که شش ماه بعد مطرح میشود پاسخ داد.
سه تیم یا بیشتر که مستقل از هم مدلها را فراخوانی میکنند. یک پرسش مالی که نمیتوانید به آن پاسخ دهید. یک بازبینی امنیتی که پرسیده پرامپتها به کجا میروند و پاسخهای ناهمخوان گرفته است. هر کدام از اینها بهتنهایی نشانه است.
زیر این آستانه، درگاه سربار است. بهکارگیری زیرساخت پیش از آنکه مشکلش پیدا شود، خودش نوعی شکست است، و ترجیح میدهیم این را بگوییم تا اینکه چیزی را بر همین اساس بفروشیم.
هر تیم بهجای ارائهدهنده، درگاه را فراخوانی میکند. مسیریابی، سقفها، محافظها و گزارش یک بار و در یک جا برای همه انجام میشوند.
بیشتر گفتوگوهای نخست با نامهی یک نهاد ناظر یا تاریخ جلسهی هیئتمدیره آغاز میشوند، و همینها مفیدند.