Bạn có thể chuyển sang phiên bản mobile rút gọn của Tạp chí điện tủ Tri thức nếu mạng chậm. Đóng

Chuyển đổi số

Quảng cáo khiêu dâm tràn lan trên Facebook

Mặc dù nhiều nền tảng cấm nội dung khiêu dâm, các ứng dụng, quảng cáo deepfake vẫn có thể lọt qua khâu kiểm duyệt của Facebook, Instagram.

Các ngôi sao, người có ảnh hưởng trở thành nạn nhân của các clip deepfake khiêu dâm. Ảnh: Facebook.

Trong một quảng cáo trên Facebook, người phụ nữ có khuôn mặt giống hệt diễn viên Emma Watson cười bẽn lẽn, cúi người trước ống kính và có những hành vi mang tính gợi dục.

Tuy vậy, người phụ nữ này không phải là Watson, ngôi sao nổi tiếng từ loạt phim Harry Potter. Quảng cáo là một phần trong chiến dịch truyền thông lớn của một ứng dụng deepfake, cho phép người dùng hoán đổi bất kỳ khuôn mặt nào vào mọi clip họ chọn, theo NBC News.

Deepfake là nội dung trong đó khuôn mặt hoặc âm thanh bị xử lý, tráo đổi. Thông thường, những người tạo deepfake ghép mặt các ngôi sao vào nhiều dạng clip khác nhau. Công nghệ này còn được sử dụng để tạo nội dung khiêu dâm không có sự đồng thuận với khuôn mặt của các ngôi sao, những người có ảnh hưởng hoặc bất kỳ người nào, kể cả trẻ em.

127 quảng cáo với gương mặt của Emma Watson

Trong ngày 5-6/3, ứng dụng tạo video “DeepFake FaceSwap” đã tung ra hơn 230 quảng cáo trên các nền tảng của Meta, bao gồm Facebook, Instagram và Messenger.

Một số quảng cáo hiển thị phần đầu của clip khiêu dâm với âm thanh lấy từ các nền tảng như Pornhub. Vài giây sau, khuôn mặt của những người phụ nữ được hoán đổi với gương mặt của các diễn viên nổi tiếng như Emma Watson và Scarlett Johansson.

Khi Lauren Barton, sinh viên báo chí ở Tennessee, nhìn thấy đoạn quảng cáo trên, cô đã rất sốc đến mức ghi lại màn hình và đăng lên Twitter, nơi clip nhận được hơn 10 triệu lượt xem.

"Điều này có thể được sử dụng với học sinh trung học ở các trường công lập bị bắt nạt. Nó có thể hủy hoại cuộc sống của ai đó. Họ có thể gặp rắc rối trong công việc. Điều này quá dễ thực hiện và miễn phí. Tất cả những gì tôi phải làm là tải lên một bức ảnh khuôn mặt của mình và có quyền truy cập vào 50 mẫu miễn phí", Barton nói.

quang cao khieu dam anh 1

Các quảng cáo deepfake sử dụng hình ảnh người nổi tiếng tràn lan trên mạng. Ảnh: Instagram.

Trong số các quảng cáo trên Meta, 127 quảng cáo có hình ảnh của Watson. 74 video khác có khuôn mặt của diễn viên Scarlett Johansson.

"Hoán đổi khuôn mặt với bất kỳ ai. Hãy tận hưởng công nghệ hoán đổi khuôn mặt AI" là chú thích trên 80 quảng cáo.

Hôm 7/3, sau khi NBC News yêu cầu Meta bình luận về vấn đề này, tất cả quảng cáo của ứng dụng đã bị xóa khỏi nền tảng.

Mặc dù không có hành vi tình dục nào được hiển thị trong các clip, tính chất khêu gợi của chúng minh họa cách ứng dụng có thể được sử dụng để tạo nội dung tình dục giả mạo.

Ứng dụng cho phép người dùng tải video lên để thao tác và cũng bao gồm hàng chục mẫu có sẵn, nhiều mẫu trong số đó dường như được lấy từ TikTok và các nền tảng mạng xã hội tương tự.

Các danh mục có sẵn bao gồm “Thời trang”, “Cô dâu”, “Dành cho nam giới”, “Dành cho phụ nữ” và “TikTok”.

Danh mục có nhiều tùy chọn nhất được gọi là “Hot”, bao gồm các clip về những người đàn ông, phụ nữ ăn mặc hở hang nhảy múa và tạo dáng. Sau khi chọn một mẫu video hoặc tải lên mẫu của riêng mình, người dùng có thể nhập một ảnh chân dung của bất kỳ ai và nhận phiên bản clip đã hoán đổi khuôn mặt sau vài giây.

Điều khoản dịch vụ của ứng dụng có giá 8 USD/tuần nói rằng nó không cho phép người dùng mạo danh người khác hoặc tải lên nội dung khiêu dâm.

Nhà phát triển ứng dụng được liệt kê trên App Store có tên là Ufoto Limited, thuộc sở hữu của công ty Wondershare.

96% deepfake là nội dung khiêu dâm

Meta đã cấm hầu hết nội dung deepfake vào năm 2020 và cũng cấm nội dung người lớn trong quảng cáo, bao gồm ảnh khỏa thân, mô tả người ở tư thế khiêu dâm hoặc khêu gợi và các hoạt động khiêu khích tình dục.

Người phát ngôn của Meta cho biết: “Chính sách của chúng tôi nghiêm cấm nội dung người lớn bất kể nội dung đó có được tạo bởi AI hay không. Chúng tôi đã hạn chế trang này quảng cáo trên nền tảng của mình”.

Những quảng cáo tương tự cũng được tìm thấy trên các ứng dụng chỉnh sửa ảnh và trò chơi miễn phí được tải xuống từ App Store của Apple, nơi ứng dụng này xuất hiện lần đầu tiên vào năm 2022 miễn phí cho trẻ em từ 9 tuổi trở lên.

Một đại diện của Apple cho biết công ty không có quy định cụ thể về deepfake, nhưng họ cấm các ứng dụng chứa nội dung khiêu dâm và phỉ báng. Apple cho biết đã xóa ứng dụng này khỏi App Store sau khi được NBC News liên hệ.

Ứng dụng này trước đây cũng có sẵn để tải xuống miễn phí trên Google Play, nơi nó được xếp hạng "dành cho tuổi teen" trong "chủ đề gợi ý". Google cho biết hôm 8/3 rằng đã xóa ứng dụng này khỏi Google Play.

quang cao khieu dam anh 2

Hầu hết clip deepfake đều chứa nội dung khiêu dâm. Ảnh: BBC.

Báo cáo năm 2019 từ DeepTrace, công ty có trụ sở tại Amsterdam giám sát phương tiện truyền thông tổng hợp trực tuyến, đã phát hiện ra rằng 96% tài liệu deepfake trực tuyến có tính chất khiêu dâm.

Hồi tháng 1, các nữ streamer Twitch đã lên tiếng sau khi một nam streamer nổi tiếng xin lỗi vì đã xem nội dung khiêu dâm deepfake của đồng nghiệp.

Nghiên cứu phát trực tiếp do nhà phân tích độc lập Genevieve Oh thực hiện đã phát hiện ra rằng trang web hàng đầu về tiêu thụ nội dung khiêu dâm deepfake đã bùng nổ về lưu lượng truy cập sau lời xin lỗi của streamer trên Twitch.

Nghiên cứu của Oh cũng cho thấy số lượng video khiêu dâm deepfake đã tăng gần gấp đôi mỗi năm kể từ năm 2018.

Tại Mỹ, mặc dù việc chia sẻ ảnh và clip khiêu dâm là bất hợp pháp ở hầu hết tiểu bang, các quy định xử lý chỉ có hiệu lực ở California, Georgia, New York và Virginia.

AI tạo clip nhạy cảm, gợi ý ảnh phụ nữ khỏa thân

AI đang tạo ra vô số clip khiêu dâm deepfake. Các nạn nhân, chủ yếu là phụ nữ, phải vật lộn để loại bỏ những clip này khỏi Internet.

Sự bất công với phụ nữ luôn ẩn mình trong xã hội hiện đại

Khi nghiên cứu về nhiều mặt của đời sống như: Giao thông, y tế, giáo dục, phúc lợi xã hội… phần lớn dữ liệu được thu thập từ nam giới, hoặc không phân biệt giới tính khi tiến hành khảo sát. Từ đó các nhu cầu của phụ nữ không được quan tâm đúng mức. Cuốn sách Phụ nữ vô hình của tác giả Caroline Criado Perez mang đến cho người đọc một cái nhìn khác về bình đẳng giới. Bình đẳng không nằm ở việc đặt hai giới ngang nhau khi suy xét một vấn đề cụ thể. Sự công bằng đến từ việc nhìn nhận một cách đúng đắn về các hạn chế của phụ nữ từ đó giúp họ thể hiện hết khả năng của mình và không bị tụt lại phía sau.

Lê Vy

Bạn có thể quan tâm