Explainable AI (XAI) - AI giải thích là gì?

Điều gì sẽ xảy ra khi một ngày AI chiếm lĩnh mọi lĩnh vực, ngành nghề và thay thế con người trong nhiều hoạt động mà họ lại không hiểu trí tuệ nhân tạo đang làm gì? Diễn ra như thế nào? Và vì sao lại cho ra kết quả, quyết định như vậy? Thật quá rủi ro đúng không? Có lẽ vì vậy mà AI giải thích - Explainable ra đời trong giới lập trình. Cùng nhau tìm hiểu những thông tin cơ bản xoay quanh thuật ngữ này nhé!

Explainable AI (XAI) - AI giải thích là gì?

Explainable AI (XAI) hay còn gọi là AI giải thích/Trí tuệ nhân tạo giải thích. Đây là một tập hợp các phương pháp và quy trình được lập trình để giúp người dùng hiểu và tin tưởng vào kết quả hay đầu ra do các thuật toán tạo ra. 
AI giải thích được sử dụng để mô tả một mô hình AI, tác động dự đoán ​​và những tác động ​​tiềm ẩn của nó. Từ đó giúp mô tả độ chính xác, tính minh bạch và kết quả của mô hình trong quá trình ra quyết định đối với những tình huống do AI hỗ trợ. Được biết, Explainable AI rất quan trọng đối với một tổ chức trong việc xây dựng niềm tin khi đưa các mô hình AI và áp dụng nó vào sản xuất. Đồng thời nó cũng giúp một tổ chức, doanh nghiệp áp dụng một cách có trách nhiệm đối với quá trình phát triển AI.
Tuy nhiên, khi AI trở nên tiên tiến hơn, người dùng sẽ cần phải đối mặt với thách thức là làm sao để hiểu và lần theo cách thuật toán đưa ra các kết quả đề xuất. Toàn bộ quá trình tính toán sẽ được chuyển thành thứ thường được gọi là "hộp đen" và không thể diễn giải được. Những hộp đen này được tạo ra trực tiếp từ dữ liệu. Khi đó, ngay cả nhiều kỹ sư hoặc nhà khoa học, nghiên cứu dữ liệu tạo ra chúng cũng khó có thể hiểu hết hoặc giải thích chính xác những gì đang diễn ra cũng như cách AI cho ra kết quả cụ thể.
Vì vậy, có nhiều lợi thế khi hiểu cách một công cụ AI cho ra kết quả cụ thể. Và khả năng giải thích có thể giúp chúng ta đảm bảo rằng hệ thống đang hoạt động như mong đợi.

Explainable AI hoạt động như thế nào?

Với Explainable AI, chúng ta có thể tiếp cận được quá trình ra quyết định cơ bản của công nghệ AI và thực hiện những điều chỉnh khi cần thiết. Nó có thể giúp cải thiện trải nghiệm của người dùng đối với một sản phẩm hoặc dịch vụ bất kỳ bằng cách giúp họ tin rằng AI đang đưa ra đề xuất và quyết định đúng đắn. 
Vậy khi nào thì các kết quả AI đưa ra đủ sự tin cậy để bạn có thể tin tưởng và AI có thể sửa các vấn đề và lỗi phát sinh như thế nào? Đó là khi AI trở nên tiên tiến hơn, các quy trình ML (Machine learning) vẫn cần được hiểu và kiểm soát để đảm bảo kết quả chính xác. 
Thử so sánh AI và XAI để thấy rõ sự khác biệt nhé. Những phương pháp và kỹ thuật được sử dụng để chuyển AI thành XAI và sự khác biệt giữa việc diễn giải các quy trình AI:

So sánh AI và XAI

Bạn có biết sự khác nhau giữa AI “thông thường” và XAI - Explainable AI là gì không? Đó là việc XAI triển khai các kỹ thuật và phương pháp chi tiết để đảm bảo rằng mỗi quyết định được đưa ra có thể được theo dõi và giải thích một cách chính xác, khách quan và thuyết phục. Trong khi đó, AI thông thường thường đưa ra kết quả bằng thuật toán ML, nhưng ít ai hiểu được đầy đủ cách thuật toán vận hành và cho ra kết quả. Đây sẽ là một hạn chế và lỗ hổng lớn trong quy trình kiểm định độ chính xác của kết quả. Từ đó có thể dẫn đến việc mất kiểm soát và nhiều hệ lụy sau đó.

Kỹ thuật của Explainable AI

Có ba phương pháp chính trong việc thiết lập các kỹ thuật XAI: độ chính xác của dự đoán, khả năng truy xuất giải quyết các yêu cầu và việc hiểu quyết định giải quyết các nhu cầu của con người.
Độ chính xác của dự đoán
Đây được xem là một thành phần quan trọng liên quan chặt chẽ đến mức độ thành công của việc sử dụng AI trong các lĩnh vực. Dự đoán bằng cách chạy mô phỏng và so sánh đầu ra XAI với kết quả trong tập dữ liệu ban đầu, từ đó độ chính xác có thể được xác định. Trong đó, kỹ thuật phổ biến nhất được sử dụng cho mục đích này là giải thích việc dự đoán các bằng thuật toán ML, giải thích mô hình có thể diễn giải cục bộ (LIME),...
Khả năng truy xuất
Khả năng truy xuất là là yếu tố quan trọng thứ hai. Điều này thường đạt được bằng cách giới hạn cách thức đưa ra quyết định từ việc thiết lập phạm vi hẹp hơn cho các quy tắc và tính năng ML. 
Một ví dụ về khả năng truy xuất của XAI là DeepLIFT (Hiểu đơn giản đây là các tính năng quan trọng của Deep Learning). Đó là so sánh sự kích hoạt của từng nơ-ron với nơ-ron tham chiếu của nó. Rồi cho thấy một liên kết có thể truy xuất giữa mỗi nơ-ron được kích hoạt. Hay thậm chí còn có thể cho chúng ta thấy được sự phụ thuộc giữa chúng.
Hiểu quyết định (kết quả)
Điều này thuộc về yếu tố con người. Nhiều người trong quá trình sử dụng chưa hoặc thậm chí là không tin tưởng vào AI. Tuy nhiên, chúng ta đều biết để có thể làm việc hiệu quả với AI, chúng ta cần học cách tin tưởng nó như cách con người làm việc với con người. Mà để làm được như vậy đòi hỏi người dùng cần được đào tạo cách làm việc vùng AI để họ có thể hiểu cách thức và lý do tại sao AI đưa ra quyết định như vậy.

Khả năng giải thích trong AI

Khả năng diễn giải là mức độ làm sao để người dùng và các chuyên gia có thể hiểu được nguyên nhân của một kết quả thay vì chỉ dừng lại ở việc diễn giải những điều con người khó hiểu. Khả năng giải thích cũng được xem là đang tiến xa hơn một bước và được xem xét cách AI tạo ra kết quả thay vì chỉ mỗi con người dự đoán.
Trên đây là mộtm vài thông tin cơ bản về Explainable AI dành cho những bạn nhập môn. Còn bạn, bạn hiểu gì về Explainable AI, để lại bình luận để chúng ta cùng trao đổi sâu nhé.