Bản mẫu:Các ngôn ngữ của Bhutan

Chuyển một mô hình ngôn ngữ lớn từ một nguyên mẫu địa phương sang một môi trường sản xuất đáng tin cậy đòi hỏi các chiến lược hoạt động chuyên biệt. Chương trình này dạy bạn cách nối kết khoảng cách giữa phát triển AI và các hoạt động hệ thống mạnh mẽ bằng cách sử dụng LLMOps. Bạn sẽ có được kỹ năng để thiết lập các đường ống đánh giá tự động, giám sát các chỉ số hiệu suất như chi phí và độ trễ, và bảo vệ các ứng dụng của bạn chống lại các lỗ hổng phổ biến. Bạn sẽ học được: - Hiểu các khái niệm cốt lõi LLMOps, bao gồm quản lý phiên bản và quản lý vòng đời mô hình. - Cấu hình các khung đánh giá tự động sử dụng các công cụ như LangSmith và Ragas để đo chất lượng đầu ra. - Hợp nhất các cổng chất lượng vào các đường ống CI / CD của bạn để ngăn chặn hồi quy trong các phản ứng mô hình. - Theo dõi các chỉ số sản xuất như latency, sử dụng token, chi phí và trôi nổi với cảnh báo thời gian thực. - Ứng dụng các biện pháp an ninh tốt nhất để bảo vệ các ứng dụng LLM khỏi tiêm nhanh và rò rỉ dữ liệu. - Tạo dữ liệu thử nghiệm tổng hợp và triển khai các thẩm phán dựa trên LLM để đảm bảo chất lượng tự động. Chương trình bắt đầu với kiến trúc LLM cơ bản và thuật ngữ vận hành trước khi hướng dẫn bạn qua các bước cấu hình thực tế. Bạn sẽ đọc các lời giải thích chi tiết và nghiên cứu các văn lệnh cấu trúc thế giới thực để xây dựng hệ thống ống dẫn sẵn sàng sản xuất của riêng bạn. Lớp học này được thiết kế cho các kỹ sư phần mềm, nhà khoa học dữ liệu, và người mới bắt đầu DevOps muốn chuyển sang hoạt động LLM, mà không cần kinh nghiệm LLMOps trước đó.