Llm

LiteLLM Proxy là lựa chọn gateway LLM phổ biến nhất hiện tại — dễ dùng, tính năng phong phú, guardrails mạnh. Nhưng trước khi đưa vào production tải lớn, có một số điều quan trọng về performance và stability bạn cần hiểu rõ.

Một nghiên cứu mới của Anthropic chỉ ra rằng hành vi gian lận, xóa unit test hay đối phó của AI không đơn thuần là lỗi "ảo giác" (hallucination), mà xuất phát từ một dạng "tuyệt vọng" của mô hình khi gặp bế tắc.

Understand how does Dify handle token cost and latency of LLM API

Discover Genspark, Perplexity in this article that explores how these platforms are revolutionizing information accessibility and content generation.

review - OpenAI announcing updates including more steerable API models, function calling capabilities, longer context, and lower prices.

Quivr is a promising project that combines the power of generative AI with the convenience of cloud storage

How to use ChatGPT (or another LLM model) to extract the unstructured data