Bài toán thật nằm sau câu hỏi về mô hình
Khi một đội ngũ nói muốn thêm AI, câu hỏi đầu tiên thường là dùng mô hình nào. Câu hỏi hữu ích hơn là công việc nào đang khiến người dùng phải chờ, copy lại dữ liệu hoặc đưa cùng một quyết định nhiều lần. Nếu chưa nhìn thấy điểm ma sát đó, AI chỉ làm cho một quy trình mơ hồ nhanh hơn và khó kiểm tra hơn.
Vẽ lại quy trình trước khi tự động hóa
Hãy bắt đầu bằng một bản đồ nhỏ: tín hiệu đi vào từ đâu, ai đang chịu trách nhiệm, trạng thái nào được phép thay đổi và khi nào cần chuyển việc cho người khác. Bản đồ này không cần thuật ngữ phức tạp. Nó cần đủ rõ để một người mới có thể chỉ ra đâu là dữ kiện, đâu là suy luận và đâu là hành động có hậu quả.
- Tách dữ kiện đã kiểm chứng khỏi phần AI suy đoán.
- Đặt người chịu trách nhiệm ở mỗi bước chuyển trạng thái.
- Ghi lại lý do một gợi ý được chấp nhận hoặc từ chối.
- Cho phép quay lại trạng thái an toàn khi nguồn dữ liệu có vấn đề.
AI nên đứng ở vị trí nào?
Trong nhiều sản phẩm, AI phù hợp nhất ở phía trước một quyết định: tóm tắt một yêu cầu dài, gom các tín hiệu liên quan hoặc đề xuất vài lựa chọn có thể kiểm tra. Nó không nên tự mình trở thành nguồn sự thật cuối cùng. Trạng thái đơn hàng, quyền truy cập, lịch thi đấu hay khoản tiền cần một đường xác nhận rõ ràng ngoài mô hình.
Thiết kế vòng lặp có thể quan sát
Một gợi ý tốt không chỉ trả về văn bản. Giao diện nên cho thấy dữ liệu nào đã được dùng, phần nào còn thiếu và người dùng sẽ chịu trách nhiệm cho hành động nào sau khi bấm xác nhận. Những dấu vết nhỏ đó giúp đội ngũ phát hiện sớm khi prompt, dữ liệu hoặc quy tắc nghiệp vụ bắt đầu lệch nhau.
- Hiển thị nguồn hoặc trường dữ liệu liên quan đến gợi ý.
- Tách nút xem trước khỏi nút thực hiện hành động.
- Lưu phiên bản đầu vào và kết quả ở mức cần thiết cho việc rà soát.
- Đặt giới hạn thời gian và quyền truy cập cho từng tác vụ.
Đừng đo AI bằng sự ngạc nhiên
Một bản demo gây ấn tượng trong vài phút không nói lên chất lượng của hệ thống sau nhiều tuần sử dụng. Điều đáng đo là thời gian hoàn thành công việc, số lần phải sửa, tỷ lệ chuyển cho người có kinh nghiệm và mức độ dễ giải thích khi có sự cố. Những câu hỏi đó buộc sản phẩm phải phục vụ một quy trình cụ thể, không phải phục vụ bảng so sánh mô hình.
AI tốt không thay người dùng ra quyết định; nó làm cho quyết định đúng trở nên dễ nhìn thấy và dễ kiểm tra hơn.
Kết luận
Bắt đầu từ quy trình tạo ra một ranh giới lành mạnh: mô hình được phép đề xuất, hệ thống được phép kiểm tra, còn con người quyết định nơi hậu quả thuộc về họ. Khi ranh giới đó rõ ràng, việc thay mô hình hay nhà cung cấp sau này trở thành một thay đổi kỹ thuật có thể quản lý, thay vì một cuộc viết lại sản phẩm.