AI và rủi ro hộp đen khi ngay cả ngành bảo hiểm cũng phải bó tay

Một câu hỏi đáng lo ngại đang bao trùm thế giới công nghệ: Điều gì sẽ xảy ra khi một phần mềm mà mọi doanh nghiệp đang chạy đua để áp dụng lại trở nên quá rủi ro đến mức không ai dám đứng ra bảo hiểm cho nó? Theo Financial Times, chúng ta sắp sửa phải đối mặt với thực tế đó, khi các 'chuyên gia về rủi ro' – chính là ngành bảo hiểm – đang gióng lên hồi chuông cảnh báo cao nhất về trí tuệ nhân tạo (AI).

"Chiếc hộp đen quá lớn": Tại sao các hãng bảo hiểm lại sợ hãi AI?

Các công ty bảo hiểm hàng đầu thế giới như AIG, Great American và WR Berkley đang yêu cầu các cơ quan quản lý của Mỹ cho phép họ loại trừ các trách nhiệm pháp lý liên quan đến AI ra khỏi các hợp đồng bảo hiểm doanh nghiệp. Lời giải thích của họ rất đơn giản nhưng cũng vô cùng đáng lo ngại: kết quả đầu ra của các mô hình AI là "một chiếc hộp đen quá lớn". Nói cách khác, chúng ta không thể dự đoán và kiểm soát hoàn toàn những gì AI sẽ làm, và do đó, không thể định giá được mức độ rủi ro.

Nỗi sợ của họ không phải là không có cơ sở. Hàng loạt vụ việc gần đây đã chứng minh cho sự khó lường của AI:

• Thông tin sai lệch gây hậu quả lớn: Tính năng AI Overview của Google đã đưa ra thông tin sai lệch, gây ra một vụ kiện trị giá 110 triệu USD cho một công ty năng lượng mặt trời.
• Sáng tạo ngoài tầm kiểm soát: Chatbot của hãng hàng không Air Canada đã tự "sáng tạo" ra một chương trình giảm giá, buộc hãng này phải thực hiện theo cam kết của con bot.
• Công cụ cho tội phạm công nghệ cao: Tội phạm mạng đã sử dụng công nghệ deepfake video để giả mạo một giám đốc cấp cao, lừa đảo thành công 25 triệu USD từ một công ty ở London.

Rủi ro hệ thống: "Cơn ác mộng" của ngành bảo hiểm

Tuy nhiên, điều thực sự khiến các công ty bảo hiểm kinh hoàng không phải là một vụ bồi thường lớn đơn lẻ. Đó là rủi ro hệ thống (systemic risk) – nguy cơ sụp đổ dây chuyền trên quy mô lớn.

Một giám đốc của công ty môi giới bảo hiểm Aon đã giải thích rất rõ ràng: Họ có thể xử lý một tổn thất 400 triệu USD cho một công ty. Nhưng điều họ không thể xử lý là khi một lỗi nhỏ trong một mô hình AI được sử dụng rộng rãi (ví dụ như một bản cập nhật lỗi của OpenAI hay Google) gây ra 10.000 tổn thất cùng một lúc trên toàn cầu. Một sự cố như vậy có thể gây ra một cơn bão yêu cầu bồi thường, đủ sức làm sụp đổ cả những hãng bảo hiểm lớn nhất.

Đây chính là điểm cốt lõi của vấn đề: khi một công nghệ "hộp đen" được triển khai trên quy mô toàn cầu, một điểm lỗi duy nhất có khả năng gây ra sự sụp đổ hàng loạt, tạo ra một rủi ro mà không ai có thể gánh vác.

Bài học cho doanh nghiệp: Tư duy lại về việc ứng dụng AI

Việc ngành bảo hiểm "quay lưng" với AI mang lại một bài học chiến lược mà bất kỳ doanh nghiệp nào cũng phải khắc cốt ghi tâm trước khi vội vã tích hợp AI vào hoạt động kinh doanh của mình.

1. AI không phải là "phép màu": AI là một công cụ mạnh mẽ, nhưng không phải là một giải pháp hoàn hảo và không có rủi ro. Việc tin tưởng mù quáng và giao phó các quyết định quan trọng cho AI mà không có sự giám sát là một canh bạc nguy hiểm.
2. "Human-in-the-loop" là bắt buộc: Nguyên tắc "con người trong vòng lặp" phải là kim chỉ nam cho mọi ứng dụng AI. Luôn phải có sự giám sát, kiểm tra và phê duyệt cuối cùng của con người đối với các quyết định quan trọng mà AI đề xuất, đặc biệt là những quyết định ảnh hưởng đến tài chính, pháp lý và khách hàng.
3. Quản trị rủi ro AI là ưu tiên hàng đầu: Doanh nghiệp cần xây dựng một khung quản trị rủi ro rõ ràng cho việc sử dụng AI. Điều này bao gồm việc xác định các lĩnh vực có rủi ro cao, thiết lập các quy trình kiểm tra nghiêm ngặt, và đào tạo nhân viên về những hạn chế và nguy cơ tiềm ẩn của công nghệ này.
4. Lựa chọn đối tác công nghệ có trách nhiệm: Khi lựa chọn một đối tác để triển khai các giải pháp AI, hãy ưu tiên những công ty không chỉ nói về lợi ích, mà còn minh bạch về những rủi ro và có một chiến lược rõ ràng để kiểm soát "chiếc hộp đen".

Trong cuộc đua AI, tốc độ là quan trọng, nhưng sự thận trọng và an toàn còn quan trọng hơn. Việc ngành bảo hiểm từ chối một trong những công nghệ nóng nhất hiện nay là một lời cảnh tỉnh đanh thép rằng chúng ta đang bước vào một vùng lãnh thổ chưa được khám phá, nơi những rủi ro có thể lớn hơn rất nhiều so với những lợi ích trước mắt.