MLflow

MLflow tối ưu hóa quy trình phát triển các sản phẩm AI, cho phép các đội ngũ debug, đánh giá và giám sát các ứng dụng LLM cũng như agent một cách hiệu quả. Các tính năng chính bao gồm:

• Observability: Ghi lại toàn bộ trace của các ứng dụng LLM để có cái nhìn sâu sắc về hành vi của chúng.
• Evaluation: Theo dõi các chỉ số chất lượng một cách hệ thống và ngăn chặn tình trạng suy giảm hiệu năng (regressions).