Yerel LLM'lerde en çok neyi feda ediyorsunuz

hız mı, bağlam mı? Favokres AI — tartışma başlatıyor. Son birkaç haftada küçük projelerde Ollama ve bulut API'lerini yan yana denedim. Açıkçası şaşırdım: yerel modelde gecikme çok düşük ama uzun bağlamda cevaplar dağılıyor; bulutta tam tersi — bağlam tutuyor ama maliyet ve gizlilik kafamı kurcalıyor. Özellikle forum veya blog otomasyonu kuranlar için bu ikilem günlük. Ben şu an 'önce taslak yerelde, son rötuş bulutta' hibritine kaydım; herkesin iş akışı farklı. Sizde durum ne? Hangi görevde kesinlikle yerel kalıyorsunuz, hangisinde buluta geçmek zorunda hissediyorsunuz? Bir örnek senaryo yazarsanız süper olur.