Các công ty đang sử dụng trí tuệ nhân tạo để tạo ra dịch vụ cho người tiêu dùng sẽ phải có nhiều lập trình viên hơn, những người chú ý nhiều hơn tới các rủi ro về sự thiên vị trước khi chúng xuất hiện bất ngờ.

Các bậc phụ huynh đều biết một thách thức đặc biệt với những đứa trẻ đang lớn là dạy chúng phải làm những gì chúng ta bảo, không phải những gì chúng ta làm.

Một thách thức tương tự cũng đang diễn ra với trí thông minh nhân tạo.

Khi ngày càng nhiều ứng dụng và phần mềm sử dụng trí thông minh nhân tạo để tự động hóa các tác vụ, một mô hình phổ biến dựa vào dữ liệu được gọi là nhúng từ cũng đã học được những định kiến vốn ăn sâu vào xã hội.

Kết quả là các dịch vụ như chuyển ngữ cũng chỉ ra những định kiến theo những cách tinh tế nhưng cũng đáng lo ngại.

Chẳng hạn như đầu năm nay, các ví dụ về thiên vị giới tính trong Google Translate đã bắt đầu xuất hiện bất ngờ trên các mạng xã hội.

Giải thuật dịch của Google đang ngày càng trở nên phân biệt giới tính - ảnh 1

 CEO StitchFix Katrina Lake đăng tải bức ảnh chụp màn hình trên trang Twitter cá nhân vào ngày công ty của bà IPO năm 2017. Công cụ dịch tự động đã đề xuất từ ngữ liên quan tới vấn đề thiên vị giới tính.

Hãy thử dịch các thuật ngữ sang tiếng Anh từ tiếng Thổ Nhĩ Kỳ có các đại từ trung lập về giới tính, và một cụm từ như o bir muhendis được dịch thành anh ấy là một kỹ sư, trong khi o bir hemsire lại được dịch thành cô ấy là một y tá.

Dịch vụ chuyển ngữ Bing do Microsoft sở hữu cũng gặp vấn đề tương tự, do phân biệt giới tính trong ngữ pháp như le la trong tiếng Pháp, hay der die trong tiếng Đức.

Khi Bing dịch câu "the table is soft" sang tiếng Đức, chương tình tự động đưa table về giống cái die tabelle, có nghĩa là một bảng (các con số) thay vì là cái bàn.

"Những liên hệ tới giới tính được dự đoán dựa trên các chủ thể", bà Kate McCurdy, nhà ngôn ngữ học cấp cao tại Babbel, công ty khởi nghiệp về học ngôn ngữ ở Berlin, Đức, nói. Bà là người đã có những phát hiện về những thiên vị của Bing.

"Các chủ thể mang vẻ nam tính xuất hiện trong câu được quy ước thuộc về nam giới. Các công cụ học cách lấy khuôn mẫu giới tính và áp dụng chúng vào thế giới danh từ."

Các thuật toán về chuyển ngữ đang làm điều này một phần vì phương pháp phổ biến của máy học được sử dụng trong các dịch vụ từ Google Translate tới Google Search, Netflix và Spotify, là nhúng từ.

"Phương pháp này đã được sử dụng và phổ biến rộng rãi trong ngành này, và đó là lý do tại sao việc phải tìm hiểu những giả thuyết cơ bản rất quan trọng", McCurdy nói.

Nhúng từ hoạt động bằng cách liên kết từ với vector của các số mà thuật toán có thể tính toán khả năng xảy ra. Bằng cách nhìn vào những gì từ ngữ có khả năng gần gũi với từ khác, ví dụ như "kỹ sư", mô hình này có thể được sử dụng để tìm ra những từ phù hợp nhất, ví dụ như "anh ấy".

Cái giá của việc học từ văn bản và đoạn đối thoại hiện tại là các mô hình này sẽ học được sự mất cân bằng trong thực tế xã hội giữa nam và nữ khi nói về cơ hội hoặc nghề nghiệp.

Một nghiên cứu năm 2016 mô hình nhúng từ về các bài viết trên Google cho thấy những định kiến về giới tính đang "ở mức độ đáng lo ngại".

McCurdy cho rằng bản thân mô hình nhúng từ không có gì sai, nhưng nó cần con người hướng dẫn và giám sát.

"Điều cần làm bây giờ là xây dựng các ứng dụng này và đưa ra công chúng để chứng minh 'lửa sẽ thử được vàng'", bà nói. "Nhưng nếu chúng ta cân nhắc kỹ và nghiêm túc hơn về vấn đề này, chúng ta sẽ làm nhiều việc hơn để tổng hợp các vấn đề mắc phải."

Các công ty đang sử dụng mô hình nhúng từ để tạo ra dịch vụ cho người tiêu dùng sẽ cần nhiều lập trình viên hơn, những người chú ý nhiều hơn tới các rủi ro về sự thiên vị trước khi chúng xuất hiện bất ngờ.

"Nếu chúng ta nghiêm túc về chuyện dùng trí tuệ nhân tạo để quyết định chuyện thiên vị mà chúng ta không muốn ủng hộ, thì chúng ta cần phải có nhiều người hơn để theo dõi giai đoạn ban đầu của quá trình phát triển các dịch vụ này."

"Lắng nghe lời khuyên thường hiệu quả hơn là chú ý đến nó.". ---- Malcolm Forbes

Tạp chí Forbes Việt Nam

Số 65 tháng 10.2018

 Số 65 tháng 10.2018

CÔNG NGHỆ TÀI CHÍNH

NGÀNH TÀI CHÍNH ĐANG THAY ĐỔI NHANH CHÓNG DƯỚI TÁC ĐỘNG CỦA CÔNG NGHỆ

*100 CÔNG TY ĐÁM MÂY ĐỘT PHÁ * GIÀU NHẤT PHILIPPINES

Các số báo khác