ToolsWorld.ai
شعار llama.cpp

llama.cpp

محرك مفتوح المصدر لتشغيل النماذج اللغوية محليًا بكفاءة على الحاسوب

مجانيلا تقييمات
أُطلقت في 1 مارس 2023 155 مشاهدة
زيارة الموقع

نظرة عامة على llama.cpp

llama.cpp مشروع مفتوح المصدر مكتوب بلغة C/C++ لتشغيل النماذج اللغوية الكبيرة محليًا على المعالجات المركزية والرسوميات المختلفة، ومنه انبثق تنسيق GGUF.

يعتمد عليه كثير من تطبيقات التشغيل المحلي، ويدعم التكميم لتقليل استهلاك الذاكرة وخادم متوافقًا مع OpenAI.

المزايا الرئيسية

  • ✦تشغيل محلي سريع
  • ✦تنسيق GGUF
  • ✦تكميم النماذج
  • ✦دعم أنظمة وعتاد متنوع
  • ✦خادم متوافق مع OpenAI

حالات الاستخدام

  • 🎯تشغيل النماذج دون إنترنت
  • 🎯بناء تطبيقات محلية
  • 🎯التجارب على أجهزة محدودة

الإيجابيات

  • • مجاني ومفتوح
  • • كفاءة عالية
  • • مجتمع ضخم

السلبيات

  • • يتطلب خبرة تقنية
  • • سطر أوامر أساسًا

التقييمات

لا توجد تقييمات بعد. كن أول من يقيّم llama.cpp.

بدائل llama.cpp

أدوات تشترك معها في المهام نفسها

شعار Tabby

Tabby

مساعد برمجة مفتوح المصدر يستضاف ذاتياً كبديل خاص لـ GitHub Copilot

💻 مساعد البرمجةمجاني جزئياً
لا تقييمات