Ollama چیست؟ آموزش نصب در ویندوز و اجرای امن مدل محلی

در این راهنمای عملی Ollama را روی ویندوز نصب می‌کنید، مدل مناسب را اجرا می‌کنید، محل نگهداری مدل‌ها را تغییر می‌دهید و API محلی را بدون بازکردن ناخواسته دسترسی شبکه ایمن نگه می‌دارید.

ابزاری برای دریافت، مدیریت و اجرای مدل‌های هوش مصنوعی روی رایانه شخصی است. در می‌توانید بدون ساخت یک محیط پیچیده، مدل را از ترمینال اجرا کنید، با برنامه دسکتاپ گفتگو داشته باشید یا از API محلی برای اتصال پروژه‌های خود استفاده کنید.

اجرای محلی برای آزمایش، یادگیری و بعضی داده‌های حساس جذاب است، اما واژه «محلی» به‌تنهایی تضمین‌کننده امنیت یا سرعت نیست. سخت‌افزار، اندازه مدل، تنظیمات شبکه، مجوز فایل‌ها و شیوه ارسال داده از برنامه شما همگی مهم‌اند. این راهنما نصب استاندارد، اولین اجرا، انتخاب مدل، مدیریت فضای ذخیره‌سازی و امن‌سازی API را مرحله‌به‌مرحله پوشش می‌دهد.

چیست و چه زمانی انتخاب مناسبی است؟

یک Runtime و ابزار خط فرمان برای اجرای مدل‌های سازگار است. مدل پس از دریافت روی سیستم ذخیره می‌شود و درخواست‌های معمول به سرویس محلی ارسال می‌شوند. این معماری برای نمونه‌سازی سریع، دستیار برنامه‌نویسی داخلی، خلاصه‌سازی اسناد مجاز و یادگیری API مدل‌های زبانی مناسب است.

اگر به بالاترین کیفیت مدل‌های ابری، مقیاس هم‌زمان بالا یا نگهداری صفر نیاز دارید، اجرای محلی همیشه بهترین گزینه نیست. در مقابل، وقتی کنترل روی فایل مدل، امکان کار بدون اینترنت پس از دانلود و هزینه قابل پیش‌بینی سخت‌افزار اهمیت دارد، مسیر ساده‌ای فراهم می‌کند.

معیار محلیسرویس ابری
حریم خصوصیداده در تنظیم پیش‌فرض داخل دستگاه پردازش می‌شود؛ برنامه متصل را نیز باید بررسی کنید.داده به ارائه‌دهنده ارسال می‌شود و تابع سیاست آن سرویس است.
هزینهمصرف سخت‌افزار، برق و فضای دیسکمعمولاً هزینه بر اساس توکن یا اشتراک
سرعتوابسته به CPU، GPU، RAM و اندازه مدلوابسته به شبکه، سهمیه و ظرفیت سرویس
نگهداریدانلود مدل، به‌روزرسانی و ظرفیت با شماست.زیرساخت عمدتاً توسط ارائه‌دهنده مدیریت می‌شود.

پیش‌نیازهای نصب در

طبق مستندات رسمی، نسخه بومی به Windows 10 نسخه 22H2 یا جدیدتر نیاز دارد. خود فایل‌های برنامه حدود چند گیگابایت فضا می‌خواهند، اما مدل‌ها ممکن است ده‌ها یا حتی صدها گیگابایت مصرف کنند. پیش از نصب، فضای آزاد درایو و محدودیت اینترنت را بررسی کنید.

سخت‌افزار و انتخاب اندازه مدل

یک نام مدل ممکن است چند اندازه یا Quantization داشته باشد. مدل کوچک‌تر معمولاً RAM و VRAM کمتر می‌خواهد و سریع‌تر است، اما ممکن است در استدلال، دانش یا پیروی از دستور ضعیف‌تر باشد. برای شروع، یک مدل کوچک یا متوسط انتخاب کنید و فقط پس از اندازه‌گیری کیفیت و سرعت سراغ مدل بزرگ‌تر بروید.

  • ظرفیت RAM و VRAM را همراه برنامه‌های باز محاسبه کنید.
  • برای دانلود اولیه، فضای آزاد بیشتر از اندازه اعلام‌شده مدل در نظر بگیرید.
  • در لپ‌تاپ، گرما و مصرف باتری را هنگام اجرای طولانی کنترل کنید.
  • در سازمان، مجوز استفاده از مدل و منبع داده آموزشی آن را بررسی کنید.

آموزش نصب در

ساده‌ترین مسیر، دریافت برنامه از صفحه رسمی Windows است. فایل نصب را فقط از دامنه رسمی بگیرید و پیش از اجرا نام ناشر و امضای فایل را در Properties بررسی کنید. نصب معمولی به دسترسی Administrator نیاز ندارد و برنامه پس از نصب در پس‌زمینه اجرا می‌شود.

نصب با رابط گرافیکی

  1. به صفحه رسمی دانلود Windows بروید.
  2. فایل نصب را دریافت و اجرا کنید.
  3. پس از پایان نصب، Windows Terminal یا PowerShell جدید باز کنید.
  4. نسخه نصب‌شده را بررسی کنید.
TerminalPowerShell
ollama --versionollama list
UTF-8PowerShell

نصب با PowerShell

صفحه رسمی یک دستور نصب PowerShell نیز ارائه می‌کند. دستور زیر اسکریپتی را از اینترنت دریافت و بلافاصله اجرا می‌کند؛ بنابراین فقط وقتی آن را اجرا کنید که دامنه، اتصال و محتوای اسکریپت را قبول دارید. در محیط سازمانی بهتر است ابتدا اسکریپت را دانلود، بازبینی و سپس طبق سیاست داخلی اجرا کنید.

Install-.ps1PowerShell
irm https://ollama.com/install.ps1 | iex
UTF-8PowerShell

دانلود و اجرای اولین مدل

برای اجرای تعاملی از فرمان run به همراه نام دقیق مدل استفاده کنید. اگر مدل روی سیستم نباشد، ابتدا فایل‌های لازم را دریافت می‌کند. نام و اندازه مناسب را از Library رسمی انتخاب کنید؛ نام‌های زیر فقط الگوی فرمان‌اند و باید با مدل موجود و متناسب با سخت‌افزار شما جایگزین شوند.

-Commands.ps1PowerShell
# دریافت مدل بدون شروع گفتگوollama pull MODEL_NAME # اجرای گفت‌وگوی تعاملیollama run MODEL_NAME # نمایش مدل‌های نصب‌شدهollama list # حذف مدلی که دیگر لازم نیستollama rm MODEL_NAME
UTF-8PowerShell

دانلود را نیمه‌کاره متوقف نکنید و بعد از پایان، یک درخواست کوتاه آزمایشی بفرستید. زمان تولید اولین Token و مصرف حافظه را در Task Manager ببینید. اگر پاسخ بسیار کند یا سیستم ناپایدار است، مدل کوچک‌تر انتخاب کنید؛ افزایش بی‌هدف Context نیز مصرف حافظه را بالا می‌برد.

تغییر محل ذخیره مدل‌ها در

مدل‌ها بزرگ‌ترین بخش فضای مصرفی هستند. برای تغییر مسیر از متغیر محیطی OLLAMA_MODELS استفاده می‌کند. یک پوشه روی درایوی با فضای کافی بسازید، برای حساب کاربری خود دسترسی خواندن و نوشتن بدهید و مقدار متغیر را در Environment Variables ثبت کنید.

پس از تغییر متغیر، برنامه را از System Tray کاملاً ببندید و دوباره اجرا کنید. انتقال دستی فایل‌ها را وقتی سرویس فعال است انجام ندهید. ابتدا از مدل‌های مهم نسخه پشتیبان داشته باشید و پس از انتقال با دستور list و یک اجرای کوتاه، سلامت مسیر جدید را کنترل کنید.

تنظیمکاربردنکته ایمنی
OLLAMA_MODELSتغییر پوشه ذخیره مدل‌هاپوشه را عمومی یا قابل نوشتن برای همه کاربران نکنید.
OLLAMA_HOSTتغییر آدرس گوش‌دادن سرویسبرای استفاده شخصی روی localhost نگه دارید.
Context lengthمقدار متنی که مدل هم‌زمان پردازش می‌کندافزایش آن مصرف حافظه را بیشتر می‌کند.

استفاده از API محلی

سرویس محلی به‌طور معمول روی آدرس http://localhost:11434 در دسترس است. localhost یعنی برنامه‌های همان رایانه می‌توانند درخواست بفرستند. این API را می‌توان از PowerShell، Python، .NET یا ابزارهای Agent فراخوانی کرد.

Invoke-.ps1PowerShell
$body = @{  model = "MODEL_NAME"  prompt = "سه نکته کوتاه برای کدنویسی امن بنویس."  stream = $false} | ConvertTo-Json Invoke-RestMethod -Method Post `  -Uri "http://localhost:11434/api/generate" `  -ContentType "application/json" `  -Body $body
UTF-8PowerShell

نام مدل را از خروجی list بردارید. در برنامه واقعی، Timeout، لغو درخواست، محدودیت اندازه ورودی و مدیریت خطا اضافه کنید. متن پاسخ مدل را داده غیرقابل اعتماد در نظر بگیرید؛ آن را مستقیماً به Shell، SQL یا HTML اجرایی وارد نکنید.

امن‌سازی و حفظ حریم خصوصی

API را بی‌دلیل روی شبکه باز نکنید

برای استفاده شخصی، آدرس گوش‌دادن را روی localhost نگه دارید. تغییر OLLAMA_HOST به آدرس عمومی می‌تواند API را در شبکه در دسترس قرار دهد. خود API محلی جایگزین یک درگاه سازمانی دارای احراز هویت، TLS، Rate Limit و ثبت رویداد نیست. اگر دسترسی تیمی لازم دارید، آن را پشت Reverse Proxy کنترل‌شده قرار دهید و دسترسی Firewall را فقط به مبدأهای ضروری محدود کنید.

ورودی مدل را محرمانه فرض کنید

پردازش محلی مسیر انتقال به ارائه‌دهنده مدل را حذف می‌کند، اما برنامه رابط، افزونه IDE یا Agent متصل ممکن است سرویس‌های دیگری داشته باشد. پیش از وارد کردن کد خصوصی، سیاست و تنظیمات تمام زنجیره را بررسی کنید. Logها، تاریخچه گفتگو، فایل‌های موقت و نسخه پشتیبان نیز می‌توانند داده حساس را نگه دارند.

مدل و خروجی را قابل اعتماد مطلق ندانید

مدل محلی هم ممکن است پاسخ نادرست، کتابخانه جعلی یا فرمان خطرناک پیشنهاد کند. فرمان‌ها را پیش از اجرا بخوانید، برای Agentها کمترین سطح دسترسی را تعیین کنید و تغییرات کد را در Git بازبینی کنید. برای آشنایی با کنترل دسترسی ابزارهای ترمینالی، راهنمای نصب OpenCode و مدیریت Provider و Permission را هم ببینید.

رفع خطاهای رایج در

فرمان شناخته نمی‌شود

یک Terminal جدید باز کنید تا PATH تازه بارگذاری شود. اگر مشکل باقی است، نصب را از Apps بررسی و مسیر برنامه را کنترل کنید. فایل اجرایی ناشناس را از سایت‌های واسطه دانلود نکنید.

مدل اجرا نمی‌شود یا بسیار کند است

مدل کوچک‌تر انتخاب کنید، برنامه‌های پرمصرف را ببندید و مصرف RAM، VRAM و Disk را ببینید. Driver کارت گرافیک را از سازنده معتبر به‌روز کنید. بزرگ‌کردن Context یا اجرای چند درخواست هم‌زمان می‌تواند مدل مناسب را نیز کند کند.

فضای درایو ناگهان کم شده است

فهرست مدل‌ها را بررسی و موارد بدون استفاده را با فرمان رسمی حذف کنید. اگر قصد تغییر مسیر دارید، OLLAMA_MODELS را تنظیم و سپس برنامه را Restart کنید. حذف دستی فایل‌های داخلی ممکن است وضعیت مدل‌ها را ناسازگار کند.

برنامه به API محلی وصل نمی‌شود

ابتدا مطمئن شوید در System Tray فعال است و آدرس localhost و پورت 11434 را درست نوشته‌اید. Proxy سراسری، VPN یا Firewall ممکن است درخواست محلی را تغییر دهد. برای از متغیر HTTP_PROXY استفاده نکنید؛ مستندات رسمی درباره HTTPS_PROXY و تنظیم Certificate راهنمای جداگانه دارد.

چک‌لیست نصب سالم

  1. و فضای آزاد با پیش‌نیاز رسمی سازگار است.
  2. Installer فقط از وب‌سایت رسمی دریافت شده است.
  3. فرمان version و list بدون خطا اجرا می‌شوند.
  4. مدل انتخابی با RAM و VRAM دستگاه تناسب دارد.
  5. پوشه مدل دسترسی عمومی نوشتن ندارد.
  6. API روی localhost باقی مانده است، مگر اینکه لایه امنیتی مستقل ساخته باشید.
  7. اطلاعات محرمانه پیش از ورود به رابط‌ها و افزونه‌ها ارزیابی می‌شود.
  8. خروجی مدل پیش از اجرای فرمان یا تغییر کد بازبینی می‌شود.

اگر علاوه بر مدل محلی از عامل کدنویسی ترمینالی استفاده می‌کنید، مقاله نصب امن Codex CLI در ویندوز مسیر تکمیلی خوبی برای مدیریت مجوزها و Secretهاست.

جمع‌بندی

راه ورود ساده‌ای به اجرای مدل محلی در فراهم می‌کند: نسخه رسمی را نصب کنید، مدلی متناسب با منابع دستگاه بگیرید، سرعت و مصرف حافظه را اندازه بگیرید و تنها در صورت نیاز مدل بزرگ‌تر انتخاب کنید. برای نگهداری درست نیز مسیر مدل‌ها، فضای دیسک و نسخه برنامه را زیر نظر داشته باشید.

مهم‌ترین اصل امنیتی این است که API محلی را بدون احراز هویت روی شبکه منتشر نکنید و پاسخ مدل را فرمان قابل اعتماد تلقی نکنید. برای یادگیری پروژه‌محور هوش مصنوعی، ابزارهای توسعه و ساخت نمونه‌کار قابل ارائه، مسیرهای آموزشی خانه برنامه نویسان البرز را بررسی کنید.

منابع رسمی