معرفی پروژه
ARDUnia AI یک زیرساخت نرم‌افزاری برای مسیریابی درخواست‌های هوش مصنوعی، اتصال به ارائه‌دهندگان مدل‌های زبانی و بازیابی اطلاعات از منابع بیرونی است. این پروژه با هدف ایجاد معماری‌ای توسعه‌پذیر برای ساخت دستیارها و ابزارهای هوشمند طراحی شده است.
نشانی سرویس:
اهداف پروژه
- ایجاد مسیر یکپارچه برای پردازش درخواست‌های هوش مصنوعی
- تشخیص نوع درخواست و هدایت آن به مسیر مناسب
- جداسازی منطق مسیریابی از ارائه‌دهندگان مدل
- فراهم کردن امکان جست‌وجوی وب و بازیابی اطلاعات
- مدیریت ارائه‌دهندگان اصلی و جایگزین
- فراهم کردن زیرساخت لازم برای اجرای فرمان‌ها و توسعه گردش‌کارهای هوشمند
- حرکت به سمت پاسخ‌های مستند و متکی بر منابع قابل بررسی
معماری کلی
معماری ARDUnia AI بر پایه چند بخش اصلی شکل گرفته است.
۱. مسیریاب ترکیبی
Hybrid Router مسئول تشخیص نوع درخواست و هدایت آن به مسیر مناسب است. در این معماری، ابتدا قواعد مشخص برای تشخیص درخواست‌ها بررسی می‌شوند. اگر تشخیص درخواست با قواعد ساده امکان‌پذیر نباشد، می‌توان از مدل هوش مصنوعی برای تحلیل و انتخاب مسیر مناسب کمک گرفت.
مسیرهای اصلی طراحی‌شده عبارت‌اند از:
- Chat: پردازش درخواست‌های گفت‌وگومحور
- Search: هدایت درخواست‌هایی که به جست‌وجو و بازیابی اطلاعات نیاز دارند
- Command: مدیریت درخواست‌های اجرایی و فرمان‌ها
این جداسازی به توسعه و نگهداری مستقل هر بخش کمک می‌کند.
۲. مدیریت ارائه‌دهندگان هوش مصنوعی
Provider Manager وظیفه مدیریت ارتباط با سرویس‌های مدل زبانی را بر عهده دارد. در تصمیم‌های فنی پروژه، Hugging Face به‌عنوان ارائه‌دهنده اصلی و Groq به‌عنوان مسیر جایگزین برای برخی درخواست‌ها در نظر گرفته شده‌اند.
مدل openai/gpt-oss-20b نیز در معماری مورد استفاده قرار گرفته است. انتخاب نهایی مدل و ارائه‌دهنده می‌تواند با توجه به نوع درخواست، دسترس‌پذیری سرویس و محدودیت‌های هر ارائه‌دهنده تغییر کند.
استفاده از این ساختار کمک می‌کند منطق اصلی برنامه تا حد امکان از وابستگی مستقیم به یک ارائه‌دهنده جدا بماند.
۳. جست‌وجوی وب و بازیابی اطلاعات
در مسیر جست‌وجو، Tavily به‌عنوان یکی از اجزای بازیابی اطلاعات در نظر گرفته شده است.
جریان کلی این مسیر به شکل زیر است:
- دریافت درخواست کاربر
- تشخیص نیاز به جست‌وجو
- ارسال درخواست به سرویس بازیابی اطلاعات
- دریافت نتایج منابع
- انتقال نتایج به بخش پردازش پاسخ
- آماده‌سازی پاسخ با استفاده از اطلاعات بازیابی‌شده
هدف این معماری آن است که پاسخ‌های وابسته به اطلاعات بیرونی صرفا بر دانش داخلی مدل تکیه نکنند.
۴. صف فرمان‌ها
Command Queue یکی از بخش‌های توسعه‌ای پروژه است که برای مدیریت درخواست‌های اجرایی و گردش‌کارهای فرمان‌محور دنبال می‌شود.
این بخش باید امکان مدیریت منظم درخواست‌ها، وضعیت اجرای آنها و بررسی خطاها را فراهم کند. جزئیات نهایی رفتار صف، نحوه ثبت وضعیت و سیاست اجرای مجدد باید مطابق نسخه عملیاتی پروژه مستند شوند.
۵. بازیابی اطلاعات همراه با منبع
Source-Aware Retrieval از محورهای توسعه پروژه است. هدف این بخش آن است که اطلاعات بازیابی‌شده، ارتباط آنها با پاسخ و منابع مورد استفاده تا حد امکان قابل پیگیری باشند.
این رویکرد می‌تواند زمینه را برای ارزیابی کیفیت پاسخ‌ها، بررسی منشأ اطلاعات و کاهش اتکای بدون بررسی به خروجی مدل فراهم کند.
فناوری‌ها و اجزای اصلی
- API و معماری سرویس‌محور
- مدل‌های زبانی بزرگ (LLM)
- مسیریابی ترکیبی مبتنی بر قواعد و مدل هوش مصنوعی
- Hugging Face
- Groq
- مدل
openai/gpt-oss-20b - Tavily برای جست‌وجو و بازیابی وب
- Provider Manager برای مدیریت ارائه‌دهندگان
- Command Queue برای مدیریت درخواست‌های اجرایی
- Source-Aware Retrieval برای بازیابی اطلاعات همراه با منبع
مسیر توسعه
توسعه ARDUnia AI را می‌توان در چند محور دنبال کرد:
- بهبود تشخیص نوع درخواست و دقت مسیریابی
- مدیریت بهتر خطاها و مسیرهای جایگزین ارائه‌دهندگان
- تکمیل سازوکار صف فرمان‌ها
- توسعه بازیابی اطلاعات همراه با منبع
- بهبود ثبت رویدادها و امکان عیب‌یابی
- ارزیابی کیفیت پاسخ‌ها و پایداری سرویس
- مستندسازی رابط‌های API و روش استفاده از آنها
ملاحظات فنی
عملکرد نهایی هر قابلیت به وضعیت پیاده‌سازی، دسترس‌پذیری سرویس‌های بیرونی، محدودیت سهمیه ارائه‌دهندگان و تنظیمات محیط اجرا وابسته است.
همچنین، وجود قابلیت جست‌وجو به‌تنهایی تضمین نمی‌کند که همه پاسخ‌ها کاملا مستند یا بدون خطا باشند. برای دستیابی به این هدف، باید منابع بازیابی‌شده، ارتباط آنها با پاسخ و نحوه مدیریت خطاها به‌صورت جداگانه ارزیابی شوند.
جمع‌بندی
ARDUnia AI زیرساخت هوش مصنوعی مجموعه ARDUnia است که با تمرکز بر مسیریابی هوشمند، مدیریت ارائه‌دهندگان، جست‌وجوی وب و بازیابی اطلاعات توسعه می‌یابد.
معماری ماژولار این پروژه می‌تواند پایه‌ای برای ساخت دستیارها، ابزارهای توسعه‌دهندگان و سرویس‌های هوشمندی باشد که به بیش از یک مدل یا منبع اطلاعاتی نیاز دارند.