The Bill for One Answer
Quyển này viết cho ai
Người làm công nghệ và AI trong doanh nghiệp Việt Nam: nhân viên IT một mình hay trong nhóm nhỏ, lập trình viên, người dựng tính năng AI, trưởng nhóm kỹ thuật ở công ty vừa và nhỏ; vừa phải giữ hệ thống chạy ổn, vừa được giao đưa công cụ và AI mới vào công việc của các phòng khác.
Bạn có đang gặp những chuyện này
- Hoá đơn dịch vụ model cuối tháng cao gấp mấy lần dự tính mà không biết vì đâu.
- Không biết một người dùng trung bình tốn bao nhiêu tiền mỗi ngày.
- Gửi cả tài liệu dài vào mỗi lượt gọi vì làm vậy cho nhanh.
- Dùng model mạnh nhất cho mọi việc, kể cả việc phân loại đơn giản.
Đọc xong, bạn làm được
Giúp người làm AI tính được chi phí một lượt dùng và biết chỗ nào đang tiêu tiền.
Mỗi chương trả lời một câu hỏi
Chương 1: Gọi ít lần hơn có làm hoá đơn nhẹ đi không?
Tiền của tôi đang trả cho cái gì trong một lượt gọi?
Chi phí gọi model tính theo lượng chữ vào và ra, không theo số lần gọi.
Chương 2: Một lần gọi rẻ có nghĩa là việc đó rẻ?
Một người dùng làm xong một việc thì tôi tốn bao nhiêu?
Con số cần nhớ là giá mỗi việc người dùng làm xong, không phải giá mỗi lần gọi.
Chương 3: Model lớn nhất có phải lúc nào cũng an toàn nhất?
Việc nào của tôi đang dùng model lớn hơn mức cần?
Việc đơn giản giao cho model nhỏ thì kết quả không kém mà giá rẻ hơn nhiều lần.
Chương 4: Mình đang trả tiền cho bao nhiêu chữ máy không đọc tới?
Tôi có đang gửi vào model những thứ nó không cần?
Phần lớn chữ gửi vào model không được dùng tới trong câu trả lời.
Chương 5: Vì sao hoá đơn cuối tháng lần nào cũng bất ngờ?
Tôi phát hiện chi phí tăng bất thường sau bao lâu?
Chi phí được nhìn mỗi tuần thì không bao giờ thành bất ngờ cuối tháng.