سرویس هوش مصنوعی (AIaaS) آروان‌کلاد برای دسترسی پذیری و راحتی بیش‌تر استفاده از هوش مصنوعی رونمایی شد؛ با استفاده از این سرویس می‌توان به‌راحتی از مدل‌های زبانی بزرگ (LLM) استفاده کرد.
در محصول جدید آروان‌کلاد با نام AIaaS (سرویس هوش مصنوعی)، بستری ارایه شده است که سازمان‌ها و توسعه‌دهندگان می‌توانند به سادگی و با بیش‌ترین میزان کنترل، یک API اختصاصی برای مدل LLM دل‌خواه خود ایجاد و از قدرت این مدل‌ها در محصولات و فرآیندهای خود استفاده کنند.
ویژگی‌های کلیدی AIaaS
از مهم‌ترین ویژگی‌های سرویس هوش مصنوعی آروان‌کلاد می‌توان به موارد زیر اشاره کرد:
۱. انتخاب مدل دل‌خواه و ساخت API اختصاصی: از طریق داشبورد تحت وب، کاربران می‌توانند از بین مدل‌های موجود یک مدل را انتخاب و تنها با چند کلیک یک API شخصی‌سازی‌شده بسازند. این API تنها با کلید امنیتی (API-Key) و آدرس اختصاصی دردسترس است.
۲. پشتیبانی از دو نوع مدل:
Self-hosted LLMs: مدل‌هایی که در زیرساخت داخلی ArvanCloud میزبانی می‌شوند.
Proxied LLMs: مدل‌هایی که درخواست‌ها به سمت ارایه‌دهندگان اصلی (Third-party providers) پروکسی می‌شوند.
هر دو نوع مدل Stateless هستند و هیچ‌گونه اطلاعاتی از کاربران یا مکالمات در سمت سرور ذخیره نمی‌شود.
۳. امنیت بالا و حفظ کامل حریم خصوصی: در مدل‌های Managed، هیچ داده‌ای به بیرون از زیرساخت ارسال نمی‌شود و اطلاعات محرمانه سازمانی با بالاترین سطح امنیت پردازش می‌شوند.
۴. مدل‌های مدیریت‌شده: میزبانی‌شده روی زیرساخت GPU آروان‌کلاد برای دسترسی و عملکرد بهینه. ایده‌آل برای تداوم کسب‌وکار و حاکمیت کامل داده‌هاست.
۵. مناسب برای صنایع حساس: این ویژگی برای صنایع حساس مانند بانک‌داری، بیمه، سلامت و دولت که قوانین سخت‌گیرانه‌ای درباره‌ی داده دارند بسیار مناسب خواهد بود.
۶. نظارت کامل و کنترل دقیق
- نظارت بر مصرف توکن‌ها: هر کاربر می‌تواند در پنل اختصاصی خود، میزان توکن‌های مصرفی ورودی و خروجی برای هر API Endpoint را مشاهده کند.
- نمایش مصرف هزینه‌ای و آماری: به‌شکل متنی و نموداری، کاربران می‌توانند وضعیت مصرف مدل و هزینه‌ی مربوط به هر Endpoint را بررسی کنند.
- مدیریت نرخ درخواست‌ها (Rate Limiting): امکان تعریف محدودیت در تعداد درخواست بر ثانیه یا دقیقه، به‌منظور جلوگیری از استفاده بیش از حد یا سواستفاده وجود دارد.
جمع‌بندی
AIaaS برای سازمان‌هایی طراحی شده که به دنبال ترکیبی از سادگی، امنیت، انعطاف و کنترل کامل در استفاده از مدل‌های زبانی هستند. چه به دنبال استفاده از مدل‌های خارجی باشید و چه مدل‌هایی که در داخل کشور و با حفظ کامل حریم خصوصی میزبانی شده‌اند، AIaaS پاسخ‌گوی نیازهای شما خواهد بود.
در دنیای هوش مصنوعی، ابزار مهم است؛ اما اطمینان، پایداری و محرمانگی مهم‌ترند. با AIaaS، این سه اصل را یکجا در اختیار خواهید داشت.
