Microsoft hủy bỏ công cụ nhận dạng khuôn mặt gây tranh cãi

6/23/2022

Microsoft đang loại bỏ quyền truy cập công khai vào một số công cụ phân tích khuôn mặt do AI hỗ trợ - bao gồm công cụ xác định cảm xúc của chủ thể từ video và hình ảnh.

Những công cụ “nhận diện cảm xúc” đã bị các chuyên gia chỉ trích. Họ nói rằng không chỉ các biểu hiện trên khuôn mặt được cho là phổ biến khác nhau giữa các nhóm dân số khác nhau mà còn cho rằng việc đánh đồng cảm xúc bên ngoài với cảm xúc bên trong là không khoa học.

Lisa Feldman Barrett, giáo sư tâm lý học tại Đại học Northeastern, người đã thực hiện một bài đánh giá về chủ đề nhận dạng cảm xúc do AI hỗ trợ: “Các công ty có thể nói bất cứ điều gì họ muốn, nhưng dữ liệu phải rõ ràng. Họ có thể phát hiện ra vẻ mặt cau có, nhưng điều đó không giống với việc phát hiện ra sự tức giận”.

Quyết định này là một phần của Tiêu chuẩn AI có trách nhiệm được cập nhật của công ty nhấn mạnh trách nhiệm giải trình để tìm ra ai sử dụng dịch vụ của mình và giám sát chặt chẽ hơn đối với nơi áp dụng các công cụ này.

Về mặt thực tế, điều này có nghĩa là Microsoft sẽ giới hạn quyền truy cập vào một số tính năng của dịch vụ nhận dạng khuôn mặt của mình (được gọi là Azure Face) và loại bỏ hoàn toàn các tính năng khác. Người dùng sẽ phải đăng ký sử dụng Azure Face để nhận dạng khuôn mặt, chẳng hạn như cho Microsoft biết chính xác cách thức và vị trí họ sẽ triển khai hệ thống của mình. Một số trường hợp sử dụng ít có khả năng gây hại hơn (như tự động làm mờ khuôn mặt trong hình ảnh và video) sẽ vẫn ở chế độ truy cập mở.

Ngoài việc loại bỏ quyền truy cập của công chúng vào công cụ nhận dạng cảm xúc của mình, Microsoft cũng ngừng khả năng xác định “các thuộc tính như giới tính, tuổi tác, nụ cười, khuôn mặt, tóc và trang điểm” của Azure Face.

Natasha Crampton, Giám đốc AI chịu trách nhiệm chính của Microsoft cho biết, “Các chuyên gia bên trong và bên ngoài công ty đã nhấn mạnh sự thiếu đồng thuận khoa học về định nghĩa của 'cảm xúc', những thách thức trong cách các suy luận khái quát qua các trường hợp sử dụng, khu vực và nhân khẩu học, và mối quan tâm về quyền riêng tư ngày càng cao xung quanh loại khả năng này."

Microsoft cho biết họ sẽ ngừng cung cấp các tính năng này cho khách hàng mới kể từ ngày 21 tháng 6, trong khi khách hàng hiện tại sẽ bị thu hồi quyền truy cập vào ngày 30 tháng 6 năm 2023.

Tuy nhiên, trong khi Microsoft ngừng quyền truy cập công khai vào các tính năng này, họ sẽ tiếp tục sử dụng chúng trong ít nhất một sản phẩm của riêng mình - một ứng dụng có tên See AI sử dụng thị giác máy để mô tả thế giới cho những người bị khiếm thị.

Sarah Bird, Giám đốc sản phẩm nhóm chính của Microsoft về Azure AI, cho biết rằng các công cụ như nhận dạng cảm xúc “có thể có giá trị khi được sử dụng cho một tập hợp các tình huống trợ năng được kiểm soát”. Không rõ liệu những công cụ này có được sử dụng trong bất kỳ sản phẩm nào khác của Microsoft hay không.

Microsoft cũng đang đưa ra các hạn chế tương tự đối với tính năng Custom Neural Voice của mình, cho phép khách hàng tạo giọng nói AI dựa trên bản ghi âm của người thật.

Bird cho biết rằng công cụ “có tiềm năng thú vị về giáo dục, khả năng tiếp cận và giải trí”, nhưng cô lưu ý rằng nó “cũng dễ hình dung cách nó có thể được sử dụng để mạo danh người nói và đánh lừa người nghe một cách không phù hợp.” Microsoft cho biết trong tương lai, họ sẽ giới hạn quyền truy cập vào tính năng này đối với “khách hàng và đối tác được quản lý” và “đảm bảo sự tham gia tích cực của người nói khi tạo ra một giọng nói tổng hợp”.

 

Nguồn: https://www.theverge.com