اجرای هوش مصنوعی روی سرور شخصی با Ollama؛ آموزش نصب و راه‌اندازی

استفاده از ابزارهای هوش مصنوعی دیگر محدود به سرویس‌های آنلاین نیست. امروزه می‌توان مدل‌های زبانی را روی کامپیوتر یا سرور شخصی اجرا کرد و بدون نیاز به ارسال اطلاعات به سرویس‌های خارجی، از قابلیت‌های آن‌ها استفاده کرد.

یکی از ابزارهای محبوب برای این کار Ollama است. این نرم‌افزار امکان دانلود و اجرای مدل‌های مختلف هوش مصنوعی را به شکل محلی فراهم می‌کند. در این مقاله با Ollama آشنا می‌شویم و مراحل نصب و راه‌اندازی آن روی سرور لینوکس را بررسی می‌کنیم.

Ollama چیست و چه کاربردی دارد؟

Ollama ابزاری برای اجرا و مدیریت مدل‌های هوش مصنوعی به‌صورت محلی است. با استفاده از آن می‌توانید مدل‌هایی مانند Llama و Gemma را روی سیستم خود اجرا کنید و از طریق ترمینال یا API با آن‌ها ارتباط داشته باشید.

مهم‌ترین مزیت این روش، کنترل بیشتر روی داده‌ها و محیط اجرای مدل است. برای مثال، یک شرکت می‌تواند مدل هوش مصنوعی موردنیاز خود را روی سرور اختصاصی اجرا کند و برای پردازش اطلاعات داخلی، وابستگی کمتری به سرویس‌های آنلاین داشته باشد.

از کاربردهای Ollama می‌توان به موارد زیر اشاره کرد:

• ساخت دستیار هوشمند اختصاصی
• تحلیل و پردازش متن و اسناد
• کمک به برنامه‌نویسی و تولید کد
• اتصال هوش مصنوعی به نرم‌افزارهای سازمانی
• راه‌اندازی سرویس‌های مبتنی بر مدل‌های زبانی

پیش‌نیازهای اجرای Ollama روی سرور

قبل از نصب، بهتر است منابع سخت‌افزاری سرور را بررسی کنید. مقدار RAM، قدرت پردازنده و حافظه گرافیکی موردنیاز به اندازه مدل انتخابی بستگی دارد.

• سیستم‌عامل: توزیع‌های لینوکس مانند Ubuntu
• پردازنده: CPU چند‌هسته‌ای متناسب با حجم پردازش
• حافظه RAM: برای مدل‌های کوچک بهتر است حداقل ۸ گیگابایت حافظه در اختیار داشته باشید.
• کارت گرافیک: برای اجرای سریع‌تر مدل‌های بزرگ، GPU سازگار و حافظه گرافیکی کافی مفید است.
• فضای ذخیره‌سازی: فضای SSD متناسب با حجم مدل‌های دانلودشده

نکته: اجرای مدل بدون GPU نیز امکان‌پذیر است، اما ممکن است سرعت پاسخ‌گویی پایین‌تر باشد.

آموزش نصب و راه‌اندازی Ollama روی لینوکس

در این آموزش از سرور Ubuntu استفاده می‌کنیم. ابتدا با SSH به سرور متصل شوید و مراحل زیر را انجام دهید.

مرحله اول: نصب Ollama

برای نصب نسخه لینوکس، دستور زیر را در ترمینال اجرا کنید:

curl -fsSL https://ollama.com/install.sh | sh

پس از پایان نصب، نسخه برنامه را بررسی کنید:

ollama --version

اگر شماره نسخه نمایش داده شد، نصب با موفقیت انجام شده است.

مرحله دوم: اجرای اولین مدل هوش مصنوعی

حالا می‌توانیم یک مدل را دانلود و اجرا کنیم. برای شروع، مدل سبک Gemma 4 E2B گزینه مناسبی برای آزمایش اولیه است:

ollama run gemma4:e2b

در اولین اجرا، مدل دانلود می‌شود و پس از آماده شدن می‌توانید سؤال خود را مستقیماً در ترمینال وارد کنید.

برای مثال:

سلام، خودت را معرفی کن و کاربردهایت را توضیح بده.

با دریافت پاسخ، اولین مدل هوش مصنوعی شما روی سرور اجرا شده است.

مرحله سوم: بررسی مدل‌های نصب‌شده

برای مشاهده مدل‌هایی که روی سرور دانلود کرده‌اید، دستور زیر را اجرا کنید:

ollama list

برای اجرای مجدد یک مدل نیز کافی است نام آن را وارد کنید:

ollama run gemma4:e2b

راهنمای شروع رسمی Ollama

اتصال نرم‌افزارها به Ollama از طریق API

یکی از قابلیت‌های کاربردی Ollama، ارائه API محلی است. با استفاده از این قابلیت می‌توانید مدل هوش مصنوعی را به وب‌سایت، نرم‌افزار یا سرویس‌های اختصاصی متصل کنید.

به‌صورت پیش‌فرض، API محلی Ollama روی آدرس زیر در دسترس است:

http://localhost:11434

برای آزمایش ارتباط با مدل، دستور زیر را اجرا کنید:

curl http://localhost:11434/api/chat \
  -H "Content-Type: application/json" \
  -d '{
    "model": "gemma4:e2b",
    "messages": [
      {
        "role": "user",
        "content": "سلام، خودت را معرفی کن."
      }
    ],
    "stream": false
  }'

در صورت برقرار بودن ارتباط، پاسخ مدل به شکل JSON نمایش داده می‌شود.

به این ترتیب می‌توانید بدون ساخت یک مدل هوش مصنوعی از ابتدا، قابلیت‌های آن را به سرویس‌های نرم‌افزاری خود اضافه کنید.

آیا اجرای Ollama روی سرور شخصی امن است؟

اجرای محلی مدل‌ها می‌تواند به حفظ حریم خصوصی کمک کند، اما به‌تنهایی تضمین‌کننده امنیت نیست.

برای محافظت از سرور بهتر است پورت API یعنی 11434 را مستقیماً در اینترنت عمومی قرار ندهید. در صورت نیاز به دسترسی از راه دور، از VPN، فایروال یا پراکسی معکوس همراه با احراز هویت استفاده کنید.

همچنین بهتر است دسترسی کاربران به سرویس، منابع سرور و اطلاعات ذخیره‌شده به‌صورت جداگانه مدیریت شود.

جمع‌بندی

Ollama راهکاری ساده و کاربردی برای اجرای مدل‌های هوش مصنوعی روی سرور شخصی است. با نصب این ابزار می‌توانید مدل‌های زبانی را به‌صورت محلی اجرا کنید، از طریق API به نرم‌افزارهای مختلف متصل شوید و زیرساخت هوش مصنوعی اختصاصی خود را توسعه دهید.

اگر به دنبال کنترل بیشتر روی داده‌ها، کاهش وابستگی به سرویس‌های خارجی و ساخت ابزارهای هوشمند اختصاصی هستید، راه‌اندازی Ollama می‌تواند نقطه شروع مناسبی باشد.