VBD 
AI có trách nhiệm (Responsible AI – RAI) là một bộ nguyên tắc giúp hướng dẫn thiết kế, triển khai và sử dụng AI nhằm tạo dựng niềm tin đối với các giải pháp AI. Responsible AI được phát triển dựa trên các tiêu chí liên quan đến các tác động của AI đến đời sống xã hội, nhằm điều chỉnh để phù hợp với các giá trị cộng đồng thông qua các tiêu chuẩn pháp lý và đạo đức. Mục đích của Responsible AI là áp dụng các nguyên tắc đó vào các sản phẩm và quy trình ứng dụng AI nhằm giảm thiểu rủi ro và hậu quả tiêu cực trong quá trình sử dụng AI, đồng thời tối đa hóa kết quả đầu ra.
1. Responsible AI bắt nguồn từ đâu?
Với việc ứng dụng rộng rãi Học máy (ML) từ những năm 2010 đã tạo ra một bước nhảy lớn trong công nghệ tuy nhiên cũng mang tới những thách thức về mặt đạo đức, thiên kiến, tính minh bạch và cách sử dụng dữ liệu cá nhân. Đạo đức Trí tuệ nhân tạo (AI Ethics) trở thành chủ đề “nóng hổi” giai đoạn này khi các công ty công nghệ và tổ chức nghiên cứu AI đang tìm cách chủ động quản lý các chương trình AI của họ một cách có trách nhiệm hơn.
Theo nghiên cứu của Accenture: “Chỉ 35% người dùng tin tưởng vào cách sử dụng công nghệ AI của các doanh nghiệp. 77% cho rằng các tổ chức này phải chịu trách nhiệm về việc lạm dụng AI.” Chính vì vậy, các nhà phát triển AI được khuyến khích tạo ra một khung tiêu chuẩn riêng để huấn luyện và phát triển các nghiên cứu của mình.
Các nguyên tắc của Responsible AI có thể giúp người áp dụng khai thác toàn bộ tiềm năng của những công cụ AI, đồng thời giảm thiểu những kết quả không mong muốn, đặc biệt là đối với công nghệ AI tạo sinh hiện nay.
Cùng với đó, tính minh bạch là một yếu tố quan trọng giúp các doanh nghiệp tin tưởng và sử dụng AI. Các công ty công nghệ phải hiểu rõ ai là người đào tạo hệ thống AI của họ, dữ liệu nào được sử dụng trong quá trình đào tạo và quan trọng nhất là tri thức nào được đưa vào đào tạo trong thuật toán.
2. Tại sao Responsible AI lại quan trọng?
Responsible AI được tạo ra nhằm giải quyết 03 vấn đề lớn liên quan đến đạo đức AI bao gồm quyền riêng tư dữ liệu (Data privacy), Thiên kiến (Bias) hay sự thiếu khả năng giải thích (Explainability)
Dữ liệu (Data), phần hạ tầng quan trọng của các mô hình AI, đôi khi lại được lấy từ các nguồn trên internet mà không có sự xin phép hay kiểm duyệt, thậm chí đó còn có thể là thông tin độc quyền của một tổ chức hay doanh nghiệp. Chính vì vậy, điều quan trọng là các mô hình AI phải tuân thủ các quy định hiện có đối với việc thu thập, lưu trữ và sử dụng dữ liệu như các quy định pháp luật hoặc hướng dẫn về về bảo mật thông tin và an ninh mạng.
Yếu tố quan trọng tiếp theo là sự thiên kiến (Bias). Các mô hình AI được xây dựng trên nền tảng dữ liệu và nếu nền tảng đó được lấy từ các nguồn thông tin sai lệch, bị bóp méo hoặc không đầy đủ, không đúng sự thật thì kết quả đầu ra sẽ sai lệch, làm ảnh hưởng đến người dùng, thậm chí có thể gây ra hậu quả khôn lường.
Việc diễn giải một cách rõ ràng như thế nào hoặc vì sao AI có thể hoạt động theo một mô hình nhất định (Explainability) là vô cùng quan trọng. Những thuật toán được sử dụng để lập trình thường rất phức tạp, ngay cả với trình độ của các kỹ sư chuyên gia. Điều này cũng khiến cho việc giải thích một mô hình AI khó khăn hơn. Chính vì vậy, một mô hình AI có khả năng giải thích cao là rất cần thiết để người dùng hoặc các doanh nghiệp có thể hiểu được phần mềm AI họ đang sử dụng có thực sự đáng tin cậy hay không
Giờ đây, khi tự động hóa đang dần thay đổi khái niệm, quy chuẩn hoạt động kinh doanh trong tất cả các ngành nghề, tác động đến cách chúng ta sống, làm việc và sáng tạo thì hậu quả của nó tiềm ẩn còn lớn hơn bao giờ hết. Hãy tưởng tượng, nếu một Công cụ AI tuyển dụng được lập trình có thành kiến đối với phụ nữ, người da màu hoặc người khuyết tật thì sẽ ra sao? Hoặc nếu một công ty vi phạm luật bảo mật thông tin, dẫn đến việc thông tin cá nhân của người dùng bị lộ và có thể bị sử dụng vào mục đích trái pháp luật?
Responsible AI có thể giúp giảm thiểu những thiệt hại đó bằng cách cung cấp một khung tiêu chuẩn để các công ty có thể xây dựng và sử dụng các sản phẩm AI một cách an toàn, đáng tin cậy và có trách nhiệm.
3. Các tiêu chí để xây dựng Responsible AI
3.1. Khả năng giải thích (Explainability)
Các mô hình Học máy (ML) như Mạng lưới thần kinh sâu (DNN) có thể đạt được độ chính đáng kinh ngạc trong nhiều tác vụ khác nhau. Điều này đặt ra việc có thể giải thích và diễn giải cách thức hoạt động của một mô hình AI là rất quan trọng. Có thể dựa vào 03 tiêu chí sau để đánh giá:
- Độ chính xác dự đoán: Độ chính xác là yếu tố chính quyết định mức độ hiệu quả của việc sử dụng AI trong hoạt động hàng ngày. Ta có thể xác định độ chính xác bằng cách chạy mô phỏng và so sánh đầu ra của AI với kết quả trong tệp dữ liệu huấn luyện. Kỹ thuật phổ biến nhất thường được sử dụng là thuật toán LIME – Local Interpretable Model-Agnostic Explanations, thuật toán này giúp giải thích dự đoán của các bộ phân loại bằng thuật toán Machine leaning
- Truy xuất nguồn gốc: Truy xuất nguồn gốc là một thuộc tính của AI cho biết liệu nó có cho phép người dùng theo dõi các dự đoán và quy trình của mô hình. Nó liên quan đến việc ghi lại dữ liệu và cách nó được xử lý bằng các mô hình khác nhau. Truy xuất nguồn gốc là một kỹ thuật quan trọng để xác định khả năng giải thích và thực hiện của mô hình.
- Hiểu quyết định: Đây chính là yếu tố con người. Những người đưa ra quyết định cần có khả năng hiểu cách vận hành và cách mà một mô hình đưa ra kết quả cuối cùng.
3.2. Tính công bằng (Fairness)
Các mô hình Học máy (ML) đang ngày càng được sử dụng nhiều để bổ trợ cho các quyết định quan trọng liên quan đến con người. Về bản chất, Học máy là một dạng phân biệt thống kê, chính sự phân biệt này sẽ gây ra nhiều rủi ro tiềm ẩn khi thuật toán đặt một số nhóm dữ liệu được ưu tiên hơn so với các nhóm dữ liệu khác. Có thể áp dụng các cách sau để đảm bảo sự công bằng đối với dữ liệu đầu ra của AI:
- Dữ liệu đa dạng và mang tính đại diện: đảm bảo dữ liệu đào tạo sử dụng để xây dựng và huấn luyện các mô hình AI phải đủ đa dạng và đại diện cho đối tượng mà nó phục vụ. Các nguồn dữ liệu đầu vào phải lấy từ các nhóm nhân khẩu học khác nhau để tránh thiếu tính khách quan hoặc thiên kiến. Thường xuyên kiểm tra và đánh giá dữ liệu đào tạo để phát hiện các sai lệch. Sử dụng các công cụ và phương pháp để xác định và sửa các sai lệch trong tập dữ liệu trước khi đào tạo mô hình.
- Thuật toán nhận biết khuynh hướng thiên kiến (Bias-aware algorithm) : Kết hợp các số liệu một cách công bằng vào quá trình phát triển để đánh giá mức độ ảnh hưởng của các nhóm dữ liệu con khác nhau bằng sự dự đoán của mô hình (predictions). Theo dõi và giảm thiểu sự chênh lệch về kết quả giữa các nhóm nhân khẩu học khác nhau. Áp dụng các ràng buộc (constraints) trong thuật toán để đảm bảo rằng mô hình tuân thủ các tiêu chí công bằng được xác định trong cả quá trình trước và trong lúc triển khai.
- Kỹ thuật giảm thiểu sai lệch (Bias mitigation techniques): Áp dụng các kỹ thuật như lấy mẫu lại, đánh giá lại và huấn luyện đối nghịch để giảm thiểu sai lệch trong dự đoán của mô hình.
- Đội ngũ phát triển đa dạng: Đa dạng hóa nhân sự phát triển AI với các kỹ sư có chuyên ngành khác nhau để có góc nhìn tổng quan và đa chiều, giúp xác định và khắc phục những thiên kiến mà những người cùng chuyên ngành có thể sẽ bỏ qua.
- Hội đồng đánh giá đạo đức AI: Cần có một hội đồng hoặc ủy ban để đánh giá mô hình AI đối với những thiên kiến còn tiềm ẩn và đạo đức của các dự án AI.
3.3. Độ chuẩn mạnh
AI chuẩn mạnh (Robust AI) có khả năng xử lý hiệu quả các vấn đề phát sinh, chẳng hạn như những bất thường trong dữ liệu đầu vào hoặc các cuộc tấn công hệ thống mà không gây ra các ảnh hưởng ngoài ý muốn. Nó cũng được đào tạo để chống lại sự can thiệp có chủ ý và vô ý bằng cách vá các lỗ hổng bảo mật. Tuy nhiên, những mô hình này có thể gây ra những rủi ro bảo mật riêng nên cần cân nhắc và sử dụng một cách hợp lý.
3.4. Tính minh bạch
Người dùng cần đánh giá dịch vụ, hoạt động, chức năng của AI cũng như hiểu được điểm mạnh và hạn chế của nó. Một mô hình có tính minh bạch cao sẽ cung cấp thông tin đầy đủ cho người dùng, giúp việc hiểu và sử dụng mô hình một cách an toàn, cũng như đánh giá mức độ phù hợp với nhu cầu sử dụng.
3.5. Tính riêng tư
Nhiều khung pháp lý như GDPR (Quy định chung về bảo mật thông tin) yêu cầu các tổ chức tuân thủ các nguyên tắc bảo mật nhất định khi xử lý thông tin cá nhân. Nguyên tắc này đảm bảo thông tin cá nhân của mọi người được thu thập và xử lý với sự đồng ý và không lọt vào bên thứ ba.
Kết luận
Trên đây là giới thiệu về Responsible AI – AI có trách nhiệm và khung tiêu chuẩn các tiêu chí để xây dựng, đánh giá mức độ an toàn cũng như đáng tin cậy của các phần mềm, mô hình AI. Hy vọng bài viết đã cung cấp nhiều thông tin bổ ích cho bạn đọc. Để hiểu rõ hơn về các mô hình AI giúp ứng dụng vào các sản phẩm công nghệ của doanh nghiệp bạn. Bạn đọc có thể liên hệ VinBigdata tư vấn theo thông tin dưới đây!
Liên hệ với VinBigdata để nhận tư vấn:
- Fanpage: VinBigdata
- LinkedIn: VinBigData
- Email: info@vinbigdata.com
- Hotline: (024) 3 208 8208
Nguồn: ibm.com
