Vào ngày thứ Tư, Meta đã thông báo việc thành lập một hội đồng tư vấn AI chỉ với các đấng mày râu trắng. Chúng ta nên mong đợi điều gì khác chứ? Phụ nữ và người da màu đã than phiền hàng thập kỷ về việc bị bỏ qua và loại trừ khỏi thế giới trí tuệ nhân tạo mặc dù họ đủ tiêu chí và đóng vai trò quan trọng trong sự phát triển của lĩnh vực này.

Meta chưa phản hồi ngay lập tức đến yêu cầu của chúng tôi để bình luận về sự đa dạng của hội đồng tư vấn.

Hội đồng tư vấn mới này khác biệt với Hội đồng Quản trị thực sự của Meta và Ban Giám sát của nó, có sự đa dạng hơn về giới tính và đại diện chủng tộc. Cổ đông không bầu ra hội đồng AI này, cũng không có nghĩa vụ trách nhiệm tài chính. Meta cho biết với Bloomberg rằng hội đồng sẽ cung cấp "các hiểu biết và đề xuất về các tiến bộ công nghệ, đổi mới và cơ hội phát triển chiến lược." Nó sẽ họp "định kỳ."

Đáng chú ý là hội đồng tư vấn AI được thành lập hoàn toàn bởi những doanh nhân và doanh nghiệp, không phải là những nhà đạo đức hoặc bất kỳ ai có nền học vị hoặc nền tảng nghiên cứu sâu. Mặc dù có thể bào chữa rằng các cựu hoặc hiện tại làm việc tại Stripe, Shopify và Microsoft có vị thế tốt để giám sát lộ trình sản phẩm AI của Meta với số lượng sản phẩm lớn mà họ đã đưa ra thị trường, nhưng đã được chứng minh rằng AI không giống như các sản phẩm khác. Đây là một lĩnh vực đầy rủi ro và hậu quả của việc làm sai lầm có thể lan rộng, đặc biệt là đối với các nhóm bị cách biệt.

Trong một cuộc phỏng vấn gần đây với TechCrunch, Sarah Myers West, giám đốc điều hành tại Viện AI Now, một tổ chức phi lợi nhuận nghiên cứu về những ảnh hưởng xã hội của AI, nói rằng việc "đánh giá một cách phê phán" các tổ chức sản xuất AI là rất quan trọng để "đảm bảo rằng nhu cầu của công chúng được đáp ứng."

“Đây là công nghệ dễ phạm lỗi, và chúng ta biết từ nghiên cứu độc lập rằng những lỗi đó không được phân phối đều, chúng gây hại nhiều cho các cộng đồng đã phải chịu gánh nặng của phân biệt đối xử đã lâu,” bà nói. “Chúng ta nên đặt mức đòan cao hơn nhiều, nhiều hơn.”

Phụ nữ có khả năng xấp xỉ hơn nam giới khi trải qua phía xấ của AI. Sensity AI phát hiện vào năm 2019 rằng 96% video deepfake AI trên mạng không được đồng ý là explicit, tập trung vào phụ nữ. Generative AI đã trở nên phổ biến hơn kể từ đó, và phụ nữ vẫn là mục tiêu của hành vi vi phạm này.

Trong một vụ vi phạm nổi tiếng vào tháng 1, video deepfake không đồng ý và mang tính khiêu dâm của Taylor Swift đã trở nên phổ biến trên X, với một trong những bài viết được chia sẻ rộng rãi nhận được hàng trăm ngàn lượt thích, và 45 triệu lượt xem. Những nền tảng xã hội như X lịch sử đã thất bại trong việc bảo vệ phụ nữ khỏi những tình huống như vậy - nhưng vì Taylor Swift là người phụ nữ mạnh mẽ nhất thế giới, X đã can thiệp bằng cách cấm các từ khóa tìm kiếm như "taylor swift ai" và "taylor swift deepfake."

Nhưng nếu điều này xảy ra với bạn và bạn không phải là một ngôi sao pop toàn cầu, thì bạn có thể không may mắn. Có nhiều báo cáo về học sinh trung học và phổ thông tạo ra deepfakes mở rộng của bạn cùng lớp. Mặc dù công nghệ này đã tồn tại từ lâu, nhưng giờ đây dễ dàng hơn để truy cập - bạn không cần phải hiểu biết về công nghệ để tải ứng dụng được quảng cáo đặc biệt để "mở" ảnh của phụ nữ hoặc đổi mặt họ vào khiêu dâm. Trên thực tế, theo báo cáo của nữ phóng viên NBC Kat Tenbarge, Facebook và Instagram đã đăng quảng cáo cho một ứng dụng có tên Perky AI, mô tả chính mình là một công cụ để tạo hình ảnh explicit.

Hai quảng cáo, mà theo cáo buộc trốn thoát khỏi sự phát hiện của Meta cho đến khi Tenbarge thông báo vấn đề này cho công ty, hiển thị ảnh của các ngôi sao Sabrina Carpenter và Jenna Ortega với cơ thể của họ bị mờ, yêu cầu khách hàng khích lệ ứng dụng để lấy bỏ quần áo của họ. Các quảng cáo sử dụng hình ảnh của Ortega từ khi cô mới 16 tuổi.

Sai lầm cho phép Perky AI quảng cáo không phải là một sự việc đơn lẻ. Ban Giám sát của Meta gần đây đã mở cuộc điều tra về việc thất bại của công ty trong việc xử lý thông báo về nội dung AI tạo làm hại tình dục.

Việc kết hợp giọng nói của phụ nữ và người da màu trong sự đổi mới của các sản phẩm trí tuệ nhân tạo là cấp bách. Trong thời gian dài, những nhóm bị cách biệt đã bị loại trừ khỏi việc phát triển các công nghệ và nghiên cứu thay đổi thế giới và kết quả đã là tai hại.

Một ví dụ dễ hiểu là việc cho đến những năm 1970, phụ nữ đã bị loại trừ khỏi các thử nghiệm lâm sàng, có nghĩa là toàn bộ ngành nghiên cứu đã phát triển mà không hiểu được tác động của nó đối với phụ nữ. Người da đen, đặc biệt là thấy các tác động của công nghệ được xây dựng mà không đề cập đến họ - ví dụ, các xe tự lái có khả năng va vào họ hơn vì các cảm biến có thể khó phát hiện da đen, theo một nghiên cứu năm 2019 của Viện Công nghệ Georgia.

Thuật toán được huấn luyện trên dữ liệu đã bị phân biệt đối đã chỉ tái tạo những định kiến giống như con người đã huấn luyện chúng. Nói chung, chúng ta thấy các hệ thống AI tiếp tục tăng cường phân biệt chủng tộc trong việc làm, nhà ở và tư pháp hình sự. Các trợ lý giọng đã gặp khó khăn trong việc hiểu các giọng âm đa dạng và thường đánh dấu công việc của người nói tiếng Anh không phải là ngôn ngữ mẹ đẻ là AI. Hệ thống nhận dạng khuôn mặt đánh dấu người da đen là những đối tượng có thể trùng khớp với nghi phạm tội phạm nhiều hơn so với người da trắng.

Việc phát triển hiện tại của AI thể hiện những cấu trúc quyền lực hiện tại liên quan đến giai cấp, chủng tộc, giới tính và chủ nghĩa Âu châu mà chúng ta thấy ở mọi nơi, và dường như không đủ lãnh đạo nào đang đề cập đến nó. Thay vì vậy, họ đang củng cố nó. Các nhà đầu tư, người sáng lập và lãnh đạo công nghệ quá tập trung vào di chuyển nhanh chóng và phá vỡ mọi thứ để họ có vẻ không thể hiểu rằng Generative AI - công nghệ AI hot nhất hiện nay - có thể làm tệ hơn vấn đề, không phải tốt hơn. Theo báo cáo từ McKinsey, AI có thể tự động hóa khoảng một nửa số công việc không yêu cầu bằng cấp bốn năm và trả lương hơn 42.000 đô la hàng năm, những công việc mà công nhân di cư được nhiều hơn.

Có lý do để lo lắng về cách mà một nhóm chỉ có những người đàn ông trắng của một trong những công ty công nghệ lớn nhất trên thế giới, tham gia vào cuộc đua cứu thế giới bằng AI, có thể bao giờ được tư vấn về các sản phẩm cho tất cả mọi người khi chỉ một đối tượng hẹp được đại diện. Sẽ cần một nỗ lực lớn để xây dựng công nghệ mà mọi người - thực sự mọi người - có thể sử dụng. Trong thực tế, những lớp cần thiết để thực sự xây dựng AI an toàn và bao gồm mọi người - từ nghiên cứu đến hiểu biết về mức độ cắt ghép xã hội - quá phức tạp đến mức rõ ràng rằng hội đồng tư vấn này sẽ không giúp Meta làm đúng. Ít nhất là nơi Meta không thể đạt được, một công ty khởi nghiệp mới có thể nổi lên.

Chúng tôi đang ra mắt một bản tin AI! Đăng ký tại đây để bắt đầu nhận nó trong hộp thư đến vào ngày 5 tháng 6.