Ollama أداة مفتوحة المصدر تتيح لك تشغيل أي نموذج لمعالجة اللغات على جهاز محلي. بالاستفادة من قدرة جهاز الكمبيوتر على المعالجة، يمكن لهذه الأداة مساعدتك في إنشاء إجابات دون الحاجة إلى الوصول إلى نموذج لغوي عبر الإنترنت. الأهم من ذلك، ستحصل دائمًا على ردود حتى وإن كانت موارد جهازك محدودة. ومع ذلك، يمكن أن يؤدي ضعف أداء الأجهزة إلى تقليل سرعة توليد الرموز بشكل كبير.
الاستفادة من إمكانات النماذج القوية لمعالجة اللغات
يُسهل Ollama تثبيت نماذج مختلفة مجهزة بمليارات المعاملات، بما في ذلك Llama 3 وPhi 3 وMistral أو Gemma، ببساطة عن طريق إدخال أوامرها الخاصة. على سبيل المثال، إذا كنت ترغب في تشغيل النموذج القوي Llama 3 الخاص بشركة Meta، فقط قم بتشغيل ollama run llama3 في وحدة التحكم لبدء التثبيت. يُرجى ملاحظة أنه افتراضيًا، سيقوم Ollama بإنشاء المحادثات عبر Windows CMD. كما يُنصح بأن تكون المساحة الخالية على القرص ضعف حجم كل نموذج معالجة لغوي تضيفه.
محادثات متدفقة
كالنماذج السحابية، يتيح لك Ollama تخزين الردود السابقة لتحقيق مزيد من التماسك والسياق. نتيجة لذلك، يمكنك إنشاء محادثة مُنظمة للغاية تستفيد من الإمكانيات الكاملة للنماذج اللغوية الأكثر تطورًا.
تثبيت واجهة بديلة
بفضل مستودع ollama-webui، يمكنك استغلال الإمكانيات الكاملة لـ Ollama بواسطة واجهة مرئية مشابهة لتطبيق ChatGPT. بتشغيل الأمر Docker run -d -p 3000:8080 --add-host=host.docker.internal:host-gateway -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:main على Docker، يمكنك تنفيذ حاوية تساعدك على تحقيق تصميم مرئي أكثر يساعد على استخدام أكثر سهولة.
إنشاء نموذج معالجة لغوية خاص بك
يتيح لك Ollama أيضًا إنشاء نموذجك المُخصص لتجربة شخصية أكثر. من خلال إعدادك الخاص، يمكنك دمج نماذج مختلفة في نفس الوقت للوصول إلى إجابات تجمع بين الموارد لكل مساعد.
نزل Ollama لنظام Windows واستمتع بالإمكانيات اللا نهائية التي توفرها هذه الأداة لتمكنك من استخدام أي نموذج معالجة لغوية محليًا. سيعزز ذلك خصوصيتك ولن تضطر إلى مشاركة المعلومات عبر الإنترنت مع المخاطر المصاحبة لذلك.
التعليقات
أداة رائعة لاختبار LLMs محليًا بدون تعقيدات. النماذج التي تعمل على جهاز الكمبيوتر لديك بها قيود أقل (بسبب الرقابة التي تفرضها OpenAI والشركات الأخرى)، وهي خاصة (لا تترك معلوماتك أجهزتك) ومجانية. جرب أ...عرض المزيد