global 47 3
RAG sistemlerinde re-ranking modeli kullanıyor musunuz?
Embedding tabanlı retrieval sonrası bge-reranker veya cohere rerank kullanan var mı? Maliyet ve latency tarafından deneyim arıyorum.
BGE reranker open-source ve Türkçe için makul. Latency için ONNX'e dönüştürmek pratik.
Skor: 0
Üretimde cohere rerank kullanıyoruz ama maliyet hızlı artıyor. Hibrit (önce BM25 + dense, sonra rerank) genelde yetiyor.
Skor: 0
Test amaçlı kısa bir yanıt: hibrit retrieval + rerank iyi çalışıyor.
Skor: 0