Facebook và Google tài trợ cho thông tin sai lệch toàn cầu như thế nào
Karen Hao | Trần Giao Thủy
Những công ty kỹ thuật khổng lồ đang trả hàng triệu đô la cho những người điều hành những trang clickbait (mồi nhử bạn đọc nhấp chuột), tài trợ cho sự suy thoái của hệ sinh thái thông tin trên khắp thế giới.
Trong vài tuần qua, Hồ sơ Facebook tái khẳng định rằng FB đã thúc đẩy sự lan truyền của lời nói căm thù & thông tin sai trái trên khắp thế giới.
Nhưng có một phần quan trọng bị thiếu trong câu chuyện. FB không chỉ khuếch đại tin vịt.
Facebook cũng đang tài trợ cho nó.
Myanmar, tháng 3 năm 2021.
Một tháng sau khi chính phủ dân chủ sụp đổ.
Theo dữ liệu từ CrowdTangle, một công cụ do Facebook điều hành, năm 2015, sáu trong số 10 trang web ở Myanmar có nhiều tương tác nhất trên Facebook từ những phương tiện truyền thông hợp pháp. Một năm sau, Facebook (gần đây đã được đổi tên thành Meta) cho mọi người quyền truy cập vào Instant Articles, một nhà xuất bản chương trình có thể dùng để kiếm tiền với nội dung đăng tải.
Sau một năm hoạt động, giới xuất bản hợp pháp chỉ chiếm 2 trong số 10 nhà xuất bản hàng đầu trên Facebook ở Myanmar. Đến năm 2018, giới xuất bản hợp pháp là con số không. Thay vào đó, tất cả mọi tương tác đều dành cho tin tức giả mạo và những trang web lừa đảo. Ở một đất nước mà Facebook đồng nghĩa với internet, nội dung hạ cấp áp đảo những nguồn thông tin khác.
Trong lúc môi trường kỹ thuật số của Myanmar xuống cấp nhanh chóng, một nhóm chiến binh người thiểu số Rohingya — phần chính là người Hồi giáo — đã tấn công và giết chết hàng chục công an cảnh sát, vào tháng 8 năm 2017. Khi cảnh sát và quân đội mở cuộc lùng bắt người Rohingya và đẩy mạnh tuyên truyền chống Hồi giáo, những bài báo giả mạo lợi dụng tình hình kỳ thị đã lan truyền mạnh. Nhưng bản tin vịt đó tuyên bố rằng những người Hồi giáo đã được trang bị vũ khí, tập hợp thành những nhóm cả 1.000 người, và họ đang ở gần đâu đó để giết người.
Đến nay vẫn chưa rõ liệu những bản tin vịt đó phần lớn là tác phẩm của những tác nhân chính trị hay từ những kẻ có động cơ trục lợi tài chính. Nhưng dù thế nào đi nữa, khối lượng tin tức giả mạo và chiêu bài clickbait đã hoạt động như đổ dầu vào lửa khi căng thẳng tôn giáo và sắc tộc đang ở mức cao rất nguy hiểm. Nó làm thay đổi dư luận và làm xung đột leo thang, cuối cùng dẫn đến cái chết của 10.000 người Rohingya, theo ước tính dè dặt, và 700.000 người khác phải di tản, đi tị nạn.
Vào năm 2018, một cuộc điều tra của Liên Hiệp Quốc đã xác định rằng bạo lực đối với người Rohingya đã cấu thành tội ác diệt chủng và Facebook đã đóng một “vai trò quyết định” trong những hành động tàn bạo đó. Nhiều tháng sau, Facebook công nhận rằng họ đã không làm đủ “để giúp ngăn chặn mạng xã hội của chúng tôi bị lợi dụng để gây chia rẽ và kích động bạo lực ngoại tuyến.”
Trong vài tuần qua, những tiết lộ từ Hồ sơ Facebook, một tập hợp những tài liệu nội bộ nộp cho Quốc hội Hoa Kỳ và một nhóm những cơ sở truyền thông của người tố giác Frances Haugen, đã tái khẳng định những gì những tổ chức xã hội dân sự đã nói trong nhiều năm: thuật toán của Facebook đã khuếch đại nội dung phản cảm, kết hợp với việc không ưu tiên kiểm duyệt nội dung bên ngoài Hoa Kỳ và Châu Âu, đã thúc đẩy sự lan truyền việc dùng ngôn từ kích động thù địch và thông tin sai lệch, gây bất ổn nguy hiểm cho nhiều quốc gia trên thế giới.
Nhưng có một phần quan trọng vẫn còn thiếu trong câu chuyện. Facebook không chỉ khuếch đại thông tin sai lệch.
Công ty này còn tài trợ cho nó.
Một cuộc điều tra của MIT Technology Review, dựa trên những cuộc phỏng vấn của chuyên gia, phân tích dữ liệu và tài liệu không có trong Hồ sơ Facebook, đã tìm thấy rằng Facebook và Google đang trả hàng triệu đô la quảng cáo cho những tác nhân clickbait, thúc đẩy sự suy thoái của hệ sinh thái thông tin xung quanh thế giới.
Cấu trúc của một trại clickbait
Facebook đã ra mắt chương trình Instant Articles vào năm 2015 với một vài nhà xuất bản ở Hoa Kỳ và Châu Âu. Công ty này quảng cáo chương trình đó như một cách để cải thiện thời gian hiển thị bài viết và tạo kinh nghiệm hấp dẫn hơn cho người dùng .
Tại sao Facebook nghiện lan truyền tin vịt
Những thuật toán trí tuệ nhân tạo (AI) của công ty này đã tạo cho nó một thói tham lam vô độ đối với những lời nói dối và căm thù. Đến nay người đã xây dựng chúng không thể khắc phục vấn đề.
Đó là lời bao biện công khai. Nhưng hành động này cũng thu tiền quảng cáo của Google một cách thuận lợi. Trước chương trình Instant Articles, những bài báo được đăng trên Facebook sẽ chuyển đến một trình duyệt, chúng sẽ mở ra trên trang web của chính nhà xuất bản. Sau đó, nhà cung cấp quảng cáo, thường là Google, sẽ kiếm tiền từ bất kỳ lượt xem hoặc lần nhấp chuột nào vào quảng cáo. Với kế hoạch mới, những bài báo sẽ mở trực tiếp trong ứng dụng Facebook và Facebook sẽ làm chủ không gian quảng cáo. Nếu một nhà xuất bản cũng chọn tham gia việc kiếm tiền bằng mạng quảng cáo của Facebook, được gọi là Audience Network, thì Facebook có thể chèn quảng cáo vào nội dung của nhà xuất bản đó và lấy 30% doanh thu.
Instant Articles chẳng bao lâu sau không còn được nhóm những nhà xuất bản dòng chính ban đầu ưa chuộng. Đối với họ, khoản tiền thu được không đủ cao so với những hình thức kiếm tiền khác có sẵn. Nhưng điều đó không đúng với những nhà xuất bản ở Nam Bán Cầu, nơi Facebook bắt đầu chấp nhận cho tham gia chương trình vào năm 2016. Năm 2018, Facebook báo cáo đã trả 1,5 tỷ đô la cho những nhà xuất bản và nhà phát triển ứng dụng (những người cũng có thể tham gia vào Audience Network). Đến năm 2019, con số đó đã lên đến nhiều tỷ.
Ngay từ đầu, Facebook đã không kiểm soát phẩm chất những loại nhà xuất bản nào tham gia chương trình. Thiết kế của mạng xã hội này cũng không phạt người dùng đăng nội dung giống hệt nhau trên những trang Facebook — trên thực tế, nó đã thưởng cho hành động này. Việc đăng cùng một bài viết trên nhiều trang có thể tăng gấp đôi số lượng người dùng đã nhấp vào bài viết đó và tạo ra doanh thu quảng cáo.
Những trại clickbait trên khắp thế giới coi lỗ hổng này như một chiến lược — một chiến lược mà họ vẫn dùng cho đến ngày nay.
Những diễn viên clickbait đã tức thời xuất hiện ở Myanmar. Với công thức phù hợp để sản xuất, đăng tải nội dung hấp dẫn và khơi gợi, họ có thể tạo ra doanh thu quảng cáo hàng nghìn đô la Mỹ mỗi tháng hoặc gấp 10 lần mức lương trung bình hàng tháng — do Facebook trả trực tiếp cho họ.
Một tài liệu nội bộ của Facebook, lần đầu tiên do MIT Technology Review báo cáo vào tháng 10, cho thấy Facebook đã nhận thức được vấn đề ngay từ năm 2019. Tác giả, cựu khoa học gia dữ liệu Facebook Jeff Allen, nhận thấy rằng những chiến thuật chính xác này đã cho phép những trại clickbait ở Macedonia và Kosovo tuyên truyền cho gần nửa triệu người Mỹ mỗi năm trước cuộc bầu cử năm 2020. Những trại clickbait đó cũng đã tham gia vào Instant Articles và Ad Breaks, một chương trình kiếm tiền tương tự để chèn quảng cáo vào video Facebook. Báo cáo cho biết tại một thời điểm, có tới 60% tên miền đã ghi danh vào chương trình Instant Articles đang dùng những chiến thuật viết thư xả rác mà những trang web clickbait dùng. Allen, bị một thỏa thuận không tiết lộ với Facebook ràng buộc, đã không bình luận về báo cáo này.
Bất chấp áp lực từ cả những nhóm nghiên cứu nội bộ và bên ngoài, Facebook đã đấu tranh để ngăn chặn sự lạm dụng. Trong khi đó, công ty này đang mở ra chương trình kiếm tiền hơn để tạo những luồng doanh thu mới. Bên cạnh Ad Breaks cho video, còn có Kiếm tiền trên IGTV cho Instagram và Quảng cáo trong luồng cho video trực tiếp. Victoire Rio, một chuyên viên nghiên cứu quyền kỹ thuật số chống lại những tác hại do mạng xã hội gây ra ở Myanmar và những quốc gia khác ở phía Nam bán cầu, cho biết: “Chúng tôi đã thấy sự thúc đẩy liều lĩnh đó đối với sự tăng trưởng số người dùng — giờ đây chúng tôi đang chứng kiến sự thúc đẩy liều lĩnh đối với sự phát triển của nhà xuất bản.
MIT Technology Review đã phát giác ra rằng vấn đề hiện đang xảy ra trên toàn cầu. Hàng nghìn hoạt động clickbait đã mọc lên, phần lớn ở những quốc gia mà những khoản tiền do Facebook trả mang lại nguồn thu nhập lớn hơn và ổn định hơn so với những hình thức khác hiện có. Một số là nhóm gồm nhiều người và một số khác là cá nhân, được những công cụ tự động giá rẻ hỗ trợ, giúp họ tạo và phân phối những bài báo đăng ở khắp nơi. Họ cũng không còn bị giới hạn trong việc đăng tải bài nữa. Họ phát hành video trực tiếp và mở trương mục Instagram, họ kiếm tiền trực tiếp hoặc dùng chúng để tăng số người truy cập vào trang web của họ.
Google cũng đáng trách. Chương trình AdSense của nó đã thúc đẩy những trại clickbait tại Macedonia và Kosovo nhắm mục tiêu đến khán giả Mỹ trước cuộc bầu cử tổng thống năm 2016. Và chính AdSense đang khuyến khích những tác nhân nhấp chuột mới trên YouTube để đăng nội dung thái quá và thông tin sai lệch có tính lan truyền.
Nhiều trại clickbait ngày nay hiện kiếm tiền bằng cả Instant Articles và AdSense, nhận những khoản thanh toán từ cả hai công ty. Và vì thuật toán của Facebook và YouTube cổ động bất cứ chuyện gì đang thu hút người dùng, họ đã tạo ra một hệ sinh thái thông tin với nội dung lan truyền trên một mạng xã hội thường sẽ được tái chế trên mạng xã hội khác để tối đa hóa việc phân phối/phát hành và doanh thu. Rio nói,
“Những tác nhân này sẽ không thể hiện hữu nếu không có mạng xã hội.”
Victoire Rio
Những trại câu nhấp (troll) cỏ ảnh hưởng đến 140 triệu người Mỹ mỗi tháng trên Facebook trước cuộc bầu cử năm 2020, báo cáo nội bộ cho thấy “Điều này không bình thường. Điều này không lành mạnh.”
Để trả lời những bằng chứng chi tiết mà chúng tôi cung cấp cho từng công ty về hành động này, người phát ngôn của Meta, Joe Osborne, bác bỏ những phát giác cốt lõi của chúng tôi, nói rằng chúng tôi đã hiểu sai vấn đề. Ông nói: “Bất chấp điều đó, chúng tôi đã đầu tư vào việc tạo ra những giải pháp có khả năng mở rộng và do chuyên gia định hướng cho những vấn đề phức tạp này trong nhiều năm và sẽ tiếp tục làm công việc này.”
Google xác nhận rằng hành động này đã vi phạm chính sách của họ và chấm dứt tất cả những kênh YouTube mà MIT Technology Review xác định là phát tán thông tin sai lệch. Người phát ngôn Ivy Choi của YouTube cho biết: “Chúng tôi làm việc chăm chỉ để bảo vệ khán giả không bị nội dung gây hiểu nhầm hoặc nội dung gây hiểu lầm trên mạng xã hội của chúng tôi và chúng tôi đã đầu tư rất nhiều vào những hệ thống kiến tạo để nâng cao thông tin khả tín.”
Những trại clickbait không chỉ nhắm mục tiêu ở quốc gia của họ. Theo gương của những tác nhân ở Macedonia và Kosovo, nhóm khai thác mới nhất đã biết rằng họ không cần phải hiểu bối cảnh địa phương cũng như ngôn ngữ của quốc gia đó để biến sự phẫn nộ chính trị thành thu nhập.
MIT Technology Review hợp tác với Allen, người hiện lãnh đạo một tổ chức phi lợi nhuận có tên là Viện Liêm chính tiến hành nghiên cứu về việc lạm dụng mạng xã hội, để xác định những tác nhân có thể có clickbait trên Facebook. Chúng tôi tập trung vào những trang hoạt động ở Campuchia và Việt Nam — hai trong số những quốc gia mà những hoạt động clickbait hiện đang thu tiền nhờ vào tình hình ở Myanmar.
Chúng tôi đã lấy dữ liệu từ CrowdTangle, nhóm phát triển mà Facebook đã giải thể vào đầu năm nay và từ Danh sách nhà xuất bản của Facebook, ghi lại những nhà xuất bản nào đã ghi danh trong những chương trình kiếm tiền. Allen đã viết một thuật toán phân cụm tùy chỉnh để tìm những trang đăng nội dung có phối hợp chặt chẽ và nhắm đến những người nói ngôn ngữ phần lớn dùng bên ngoài những quốc gia họ có hoạt động. Sau đó, chúng tôi phân tích những cụm nào có ít nhất một trang ghi danh với một chương trình kiếm tiền hoặc đang quảng cáo nhiều nội dung từ một trang đã ghi danh với một chương trình.
Chúng tôi đã tìm thấy hơn 2.000 trang ở cả hai quốc gia tham gia vào hoạt động giống như clickbait này. (Đó có thể là một con số thấp, bởi vì không phải tất cả những trang Facebook đều được CrowdTangle theo dõi.)
Nhiều trang có hàng triệu người theo đọc và có thể ảnh hưởng nhiều người dùng hơn. Trong báo cáo năm 2019, Allen nhận thấy rằng 75% người dùng đọc những bài clickbait từ những trại ở Macedonia và Kosovo chưa bao giờ theo dõi bất kỳ trang nào. Nhưng hệ thống đề nghị nội dung của Facebook đã đưa nó vào nguồn cấp dữ liệu tin tức của họ.
Khi MIT Technology Review gửi cho Facebook danh sách những trang này và giải thích chi tiết về phương pháp luận của chúng tôi, Osborne đã cho phân tích của chúng tôi là “thiếu sót”. Ông nói, “Mặc dù một số Trang ở đây có thể đã nằm trong danh sách nhà xuất bản của chúng tôi, nhưng nhiều trang trong số đó không thực sự kiếm tiền trên Facebook.”
Thật vậy, những con số này không cho thấy rằng tất cả những trang này đã tạo ra doanh thu quảng cáo. Thay vào đó, đây là một ước tính dựa trên dữ liệu mà Facebook đã tuyên bố công khai, về con số những trang được liên kết với những tác nhân clickbait ở Campuchia và Việt Nam mà Facebook đã cho phép đủ điều kiện để kiếm tiền trên mạng xã hội này.
Osborne cũng xác nhận rằng nhiều trang giống như clickbait do Campuchia điều hành mà chúng tôi tìm thấy đã ghi danh trực tiếp với một trong những chương trình kiếm tiền của Facebook hơn những gì chúng tôi tin trước đây. Trong phân tích, chúng tôi nhận thấy 35% số trang trong những cụm của chúng tôi đã làm như vậy trong hai năm qua. 65% còn lại sẽ gián tiếp tạo ra doanh thu quảng cáo bằng cách quảng cáo mạnh mẽ bài viết từ trang đã ghi danh có nhiều đối tượng hơn. Osborne nói rằng trên thực tế, khoảng một nửa số trang mà chúng tôi tìm thấy, hoặc khoảng 150 trang nữa, đã ghi danh trực tiếp tại một điểm với một chương trình kiếm tiền, phần lớn là Instant Articles.
Ngay sau khi chúng tôi liên lạc với Facebook, những người điều hành những trang clickbait ở Myanmar đã bắt đầu phàn nàn trên những diễn đàn trực tuyến rằng những trang của họ đã bị xóa khỏi Instant Articles. Osborne từ chối trả lời những câu hỏi của chúng tôi về những hành động mới nhất mà công ty đã thực hiện.
Facebook đã liên tục tìm cách loại bỏ những tác nhân này khỏi những chương trình của họ. Osborne cho biết, ví dụ: chỉ có 30 trang do Campuchia điều hành vẫn đang kiếm tiền. Nhưng dữ liệu của chúng tôi từ danh sách nhà xuất bản của Facebook cho thấy việc thực thi thường bị trì hoãn và không đầy đủ — những trang clickbait có thể nằm trong những chương trình kiếm tiền hàng trăm ngày trước khi chúng bị gỡ xuống. Những diễn viên tương tự cũng sẽ quay ra những trang mới sau khi những trang cũ của họ đã tắt tính năng kiếm tiền.
Allen hiện đang tìm nguồn mở mã mà chúng tôi đã dùng để khuyến khích những nhà nghiên cứu độc lập khác tinh chỉnh và xây dựng dựa trên công việc của chúng tôi.
Dùng phương pháp tương tự, chúng tôi cũng tìm thấy hơn 400 trang do nước ngoài điều hành nhắm mục tiêu chính đến khán giả Hoa Kỳ trong những cụm xuất hiện trong danh sách Nhà xuất bản của Facebook trong hai năm qua. (Chúng tôi không gồm những trang từ những quốc gia có ngôn ngữ chính là tiếng Anh.) Tập hợp này gồm một nhóm kiếm tiền hoạt động ở một phần ngoài Macedonia dành cho phụ nữ và cộng đồng LGBTQ. Nó có tám trang Facebook, gồm cả hai trang đã được xác định là có hơn 1,7 triệu và 1,5 triệu người theo đọc và đăng nội dung từ năm trang web, mỗi trang web đã ghi danh với Google AdSense và Audience Network. Nó cũng có ba trương mục Instagram, kiếm tiền bằng những cửa hàng quà tặng và cộng tác và bằng cách hướng người dùng đến những trang web ăn cắp bản quyền như nhau. Quản trị viên của những trang Facebook và trương mục Instagram đã không trả lời yêu cầu bình luận của chúng tôi.
Osborne cho biết Facebook hiện đang điều tra những trương mục sau khi chúng tôi công ty này biết. Choi cho biết trước đây Google đã xóa quảng cáo AdSense khỏi hàng trăm trang trên những trang web này vì vi phạm chính sách nhưng chính những trang web này vẫn được phép kiếm tiền dựa trên những đánh giá thường xuyên của công ty.
Mặc dù có thể những người Macedonia điều hành những trang này thực sự quan tâm đến chính trị Hoa Kỳ và về quyền của phụ nữ và LGBTQ, nhưng nội dung đang tạo ra doanh thu là điều không thể phủ nhận. Nó có nghĩa là những gì họ quảng cáo rất có thể được thuật toán nguồn cấp tin tức về những gì thắng và thua của Facebook hướng dẫn.
Camille François, chuyên viên tại Đại học Columbia, nghiên cứu về những chiến dịch đưa tin vịt có tổ chức trên mạng xã hội, cho biết hoạt động của một trang hoặc một cụm có thể không có ý nghĩa. Nhưng khi hàng trăm hoặc hàng nghìn diễn viên đang làm cùng một việc, khuếch đại cùng một nội dung và đến hàng triệu người đọc, thì điều đó có thể ảnh hưởng đến dư luận. François nói:
“Những gì mọi người xem là dư luận trong nước về một chủ đề thực sự có thể là một cái gì đó hoàn toàn khác. Đó là một nhóm người được trả tiền giả vờ không có bất kỳ mối quan hệ nào với nhau, tối ưu hóa nội dung những bài họ đăng.”
Camille François
Osborne cho biết Facebook đã lập một số chính sách và giao thức thực thi mới trong hai năm qua để giải quyết vấn đề này, gồm cả việc phạt những trang hoạt động ở nước ngoài nhưng làm như họ ở địa phương của quốc gia khác, cũng như phạt những trang xây dựng khán giả bằng một chủ đề và sau đó xoay vòng sang chủ đề khác. Nhưng cả Allen và Rio đều nói rằng những hành động của Facebook đã không thể đóng được những lỗ hổng căn bản trong những chính sách và thiết kế của mạng xã hội — những yếu kém đó đang châm dầu một cuộc hỏa hoạn thông tin toàn cầu. Rio nói,
“Trước hết và quan trọng nhất, nó ảnh hưởng đến những quốc gia bên ngoài Hoa Kỳ nhưng cũng gây ra rủi ro lớn cho Hoa Kỳ về lâu về dài. Nó sẽ ảnh hưởng khá nhiều đến bất cứ nơi nào trên thế giới khi có những sự kiện quan trọng như một cuộc bầu cử.”
Victoire Rio
Lính đánh thuê làm Tin giả
Để trả lời phúc trình ban đầu của MIT Technology Review về báo cáo nội bộ năm 2019 của Allen, mà chúng tôi đã xuất bản toàn bộ, David Agranovich, Giám đốc phụ trách gián đoạn mối đe dọa toàn cầu của Facebook, đã tweet:
“Những trang đề cập ở đây, dựa trên nghiên cứu năm 2019 của chính chúng tôi, có động cơ vì tiền của người gửi thư xả rác, không phải là những chiến dịch công khai gây ảnh hưởng. Cả hai đều là những thách thức nghiêm trọng, nhưng chúng khác nhau. Góp hai thanh một chẳng giúp ích được gì cho ai cả.”
David Agranovich
Osborne nhắc lại rằng chúng tôi đang gộp hai nhóm lại để trả lời với những kết quả chúng tôi đã tìm thấy được.
Nhưng những chuyên gia về thông tin sai lệch cho rằng thật sai lầm khi vạch ranh giới rạch ròi giữa những kẻ gửi thư xả rác vì tiền và những hoạt động gây ảnh hưởng chính trị.
Có một sự khác biệt về ý định: những người gửi thư rác kiếm tiền không thể biết về nội dung mà họ đăng tải. Họ đến bất cứ nơi nào có nhiều người nhấp chuột và tiền, cho phép thuật toán nguồn cấp tin tức của Facebook quyết định chủ đề nào họ sẽ đề cập tiếp theo. Thay vào đó, những hoạt động chính trị được nhắm vào việc thúc đẩy một chương trình nghị sự cụ thể.
Nhưng trên thực tế, điều đó không quan trọng: về chiến thuật và ảnh hưởng, chúng thường giống nhau. Trong một ngày trung bình, một trang web clickbait vì lợi nhuận có thể đưa tin tức về người nổi tiếng, động vật dễ thương hoặc những câu chuyện giàu cảm xúc — tất cả đều là những động lực đáng tin cậy để tăng lượng truy cập. Sau đó, khi bất ổn chính trị xảy ra, họ chuyển sang tin tức cực kỳ phe đảng, thông tin sai lệch và mồi nhử phẫn nộ vì nó lôi kéo được nhiều người tham gia hơn.
Cụm trang Macedonian là một ví dụ điển hình. Phần lớn có nội dung quảng bá quyền của phụ nữ và LGTBQ. Nhưng vào khoảng thời gian diễn ra những sự kiện như cuộc bầu cử năm 2020, cuộc nổi dậy ngày 6 tháng 1 và việc thông qua “dự luật nhịp tim” [“heartbeat bill”] của Texas, thì cụm web này đã khuếch đại nội dung chính trị đặc biệt rõ ràng. Nhiều bài viết của nó đã được lưu hành rộng rãi do những trang hợp pháp với lượng người theo dõi khổng lồ, gồm cả những bài do Occupy Democrats, Liên minh những nhà khoa học quan tâm và Women’s March Global điều hành.
Những hoạt động gây ảnh hưởng chính trị, do đó, có thể đăng bài về người nổi tiếng và động vật dễ thương để tạo ra những trang Facebook có lượng người theo dõi lớn. Sau đó, họ xoay trục sang chính trị trong những sự kiện chính trị nhạy cảm, tận dụng số khán giả khổng lồ đã có sẵn theo ý của họ.
Những tổ chức chính trị đôi khi cũng sẽ trả tiền cho những kẻ chuyên gửi thư xả rác vì tiền để phát thanh tuyên truyền trên những trang Facebook của họ hoặc mua những trang này để dùng lại chúng cho những chiến dịch gây ảnh hưởng. Rio đã thấy bằng chứng về thị trường chợ đen, ở đó những diễn viên clickbait có thể bán số khán giả lớn trên Facebook của họ.
Nói cách khác, những trang trông có vẻ vô tội vạ cho đến khi để lộ mặt thật. Allen viết trong báo cáo, “Chúng ta đã trao quyền cho những diễn viên không thực để tích lũy lượng theo dõi khổng lồ cho phần lớn những mục đích không rõ ràng.”
Sự thay đổi này đã xảy ra nhiều lần ở Myanmar kể từ sự gia tăng của những trại clickbait, đặc biệt là trong cuộc khủng hoảng Rohingya và một lần nữa trước và sau cuộc đảo chính quân sự năm nay. (Sự kiện thứ hai bị thúc đẩy vì những sự kiện giống như những sự kiện dẫn đến cuộc nổi dậy ngày 6 tháng 1 của Hoa Kỳ, gồm cả những tuyên bố giả mạo phổ biến về một cuộc bầu cử bị đánh cắp.)
Vào tháng 10 năm 2020, Facebook đã gỡ xuống một số trang và nhóm có hoạt động phối hợp với hành vi clickbait ở Myanmar. Trong một phân tích về những nội dung đó, Graphika, một công ty chuyên nghiên cứu sự lan truyền của thông tin trực tuyến, tìm thấy rằng những trang tập trung vào tin tức và tin đồn của người nổi tiếng nhưng lại tuyên truyền chính trị, luận điệu chống Hồi giáo nguy hiểm và thông tin sai lệch về Covid-19 ở những thời điểm chính trong khủng hoảng. Hàng chục trang có hơn 1 triệu người theo dõi mỗi trang, trang lớn nhất có hơn hơn 5 triệu thành viên.
Hiện tượng tương tự cũng xảy ra ở Philippines trước cuộc đầu phiếu năm 2016 mà Tổng thống Rodrigo Duterte đã đắc cử. Duterte được so sánh với Donald Trump về chính trị dân túy, khoa trương và khuynh hướng độc đoán. Trong chiến dịch tranh cử của ông ấy, một trại clickbait, ghi danh chính thức là công ty Twinmark Media, đã chuyển từ việc giới thiệu những người nổi tiếng và giải trí sang quảng bá cho ông ấy và ý thức hệ của ông ấy.
Vào thời điểm đó, nhiều người tin rằng những chính khách đã thuê Twinmark để thực hiện một chiến dịch gây ảnh hưởng. Nhưng trong những cuộc phỏng vấn với nhà báo và giới nghiên cứu, những cựu nhân viên của Twinmark thừa nhận họ chỉ đơn giản theo đuổi lợi nhuận. Qua thí nghiệm, những nhân viên đó thấy rằng nội dung ủng hộ Duterte nổi trội trong một cuộc bầu cử sôi nổi. Họ thậm chí còn trả tiền cho những người nổi tiếng và những người có ảnh hưởng khác để đăng lại bài viết của họ để nhận được nhiều người đọc nhấp chuột hơn và tạo ra nhiều doanh thu quảng cáo hơn, theo nghiên cứu từ những học giả truyền thông Jonathan Ong và Jason Vincent A. Cabañes.
Trong những tháng cuối cùng của cuộc vận động tranh cử, ông Duterte thống trị những diễn ngôn chính trị trên mạng xã hội. Chính Facebook đã gọi ông ấy là “ông vua không thể tranh cãi của những cuộc trò chuyện trên Facebook” khi nhận thấy ông ấy là chủ đề của 68% tất cả những cuộc thảo luận liên quan đến bầu cử, so với 46% cho đối thủ gần nhất của ông ấy.
Ba tháng sau cuộc bầu cử, Maria Ressa, Giám đốc điều hành của công ty truyền thông Rappler, người đoạt giải Nobel Hòa bình năm nay vì công việc chống lại thông tin sai lệch, đã đăng một bài mô tả cách một buổi hòa âm phối khí giữa clickbait và tuyên truyền trên Facebook “thay đổi công luận về những vấn đề chính.”
Bà viết:
“Đó là chiến lược ‘cái chết vì ngàn vết cắt’— cắt bỏ sự thật, dùng nửa sự thật để tạo ra một thực tế khác bằng cách hợp nhất sức mạnh của bot và trương mục giả mạo trên mạng xã hội để thao túng người thật.”
Maria Ressa
Vào năm 2019, Facebook cuối cùng đã gỡ bỏ 220 trang Facebook, 73 trương mục Facebook và 29 trương mục Instagram có liên kết với Twinmark Media. Vào thời điểm đó, Facebook và Google đã trả cho trại này 8 triệu đô la (400 triệu peso Philippine).
Cả Facebook và Google đều không xác nhận số tiền này. Osborne của Meta phản bác đặc điểm mà Facebook đã ảnh hưởng đến cuộc bầu cử.
Một mối đe dọa đang khai triển
Theo báo cáo nội bộ của Allen, Facebook đã có cố gắng để loại bỏ những trại clickbait ra khỏi Instant Articles và Ad Breaks trong nửa đầu năm 2019. Đặc biệt, nó đã bắt đầu kiểm soát những nhà xuất bản về tính nguyên bản của bai viết và tắt tính năng kiếm tiền của những người đã đăng phần lớn bài không phải là nguyên bản.
Nhưng những kiểm soát tự động này có giới hạn. Phần lớn chúng tập trung vào việc đánh giá tính độc đáo của video chứ không phải, ví dụ, vào việc một bài báo có đạo văn hay không. Ngay cả khi họ làm như vậy, những hệ thống đó sẽ chỉ tốt bằng khả năng trí tuệ nhân tạo của công ty trong một ngôn ngữ nhất định. Những quốc gia có ngôn ngữ không được cộng đồng nghiên cứu AI ưu tiên nhận ít được chú ý hơn, nếu có [ví dụ như tiếng Việt Nam.] Haugen nói trong cuộc điều trần trước Quốc hội,
“Trong trường hợp của Ethiopia có 100 triệu người và sáu ngôn ngữ. Facebook chỉ hỗ trợ hai trong số những ngôn ngữ đó cho những hệ thống toàn vẹn.”
Frances Haugen
Rio nói rằng cũng có những kẽ hở trong việc áp dụng. Những người vi phạm bị đưa ra khỏi chương trình nhưng không bị loại khỏi mạng xã hội và họ có thể khiếu nại để trương mục được khôi phục. Những kháng nghị, do một nhóm khác với nhóm thi hành, giải quyết và chỉ làm những bước kiểm soát chuyên đề căn bản trước khi phục hồi trương mục của tác nhân. (Facebook đã không trả lời câu hỏi về những lượt kiểm soát này thực sự tìm kiếm những gì.) Do đó, có thể mất hàng giờ để người điều hành clickbait tham gia lại nhiều lần sau khi bị xóa. Rio nói, “Bằng cách nào đó mà tất cả những toán làm việc không nói chuyện với nhau.”
Đây là cách Rio thấy mình rơi vào trạng thái hoảng loạn vào tháng 3 năm nay. Một tháng sau khi quân đội bắt giữ cựu lãnh đạo dân chủ Aung San Suu Kyi và giành quyền kiểm soát chính phủ, những người biểu tình vẫn xung đột dữ dội với chế độ mới. Quân đội thường xuyên cắt internet và những mạng phát sóng, và Rio khủng hoảng lo âu vì sự an toàn của những người bạn của cô ở Myanmar.
Rio bắt đầu đi tìm họ trong những video Trực tiếp trên Facebook. Bà nói: “Mọi người thực sự tích cực xem những video này vì đây là cách bạn theo dõi những người thân của mình.” Bà không lo lắng khi thấy rằng những video đến từ những trang có vấn đề về uy tín; Rio tin rằng những người phát trực tuyến đang dùng những trang giả mạo để bảo vệ nhân thân của họ.
Sau đó, điều không thể xảy ra: bà ấy đã xem cùng một video Trực tiếp hai lần. Rio nhớ vì điều đó thật kinh hoàng: hàng trăm đứa trẻ, trông chỉ khoảng 10 tuổi, xếp hàng với tay để trên đầu, bị chất lên xe nhà binh.
Khi tìm hiểu kỹ, bà nhận ra ra rằng những video đó không hề phát trực tiếp. Video trực tiếp nhằm phát sóng chương trình trong thời gian thực và gồm siêu dữ liệu quan trọng về thời gian và địa điểm của hoạt động. Những video này đã được tải xuống từ nơi khác và phát lại trên Facebook bằng những công cụ của bên thứ ba để làm cho người xem tưởng là chúng đang được trực tiếp truyền hình.
Rio đã liều mạng vạch trần Facebook. Nay bà ấy kể lại câu chuyện của mình.
Sophie Zhang, một cựu nhân viên khoa học dữ liệu tại Facebook, tiết lộ rằng Facebook cho phép thao túng chính trị toàn cầu và đã làm rất ít để ngăn chặn việc đó.
Có hàng trăm người trong số họ, thu hút hàng chục nghìn lượt tương tác và hàng trăm nghìn lượt xem. Tính đến đầu tháng 11, MIT Technology Review đã tìm thấy hàng chục video Trực tiếp giả trùng lặp khỏang thời gian này vẫn còn hoạt động. Một cặp trùng lặp với hơn 200.000 và 160.000 lượt xem, đã tuyên bố bằng tiếng Miến Điện, “Tôi là người duy nhất phát sóng trực tiếp từ khắp nơi trên đất nước trong thời gian thực.”
Facebook đã gỡ bỏ một số trong số đó sau khi chúng tôi gây sự chú ý với họ nhưng hàng chục trang khác, cũng như những trang đã đăng chúng, vẫn còn. Osborne cho biết công ty đã nhận thức được vấn đề này và đã giảm đáng kể những cuộc phát hình sống giả mạo này cũng như việc phân phối chúng trong năm qua.
Trớ trêu thay, Rio tin rằng, những video có khả năng được trích xuất từ cảnh quay về cuộc khủng hoảng được tải lên YouTube để làm bằng chứng về vi phạm nhân quyền. Nói cách khác, những cảnh này thực sự đến từ Myanmar — nhưng tất cả chúng đều được phát hình ở Việt Nam và Campuchia.
Trong nửa năm qua, Rio đã theo dõi và xác định một số cụm trang hoạt động bên ngoài Việt Nam và Campuchia. Nhiều người đã dùng những video Trực tiếp truyền hình giả để nhanh chóng xây dựng số người theo dõi của họ và thúc đẩy người xem tham gia vào những nhóm Facebook được cải trang thành những cộng đồng ủng hộ dân chủ. Rio hiện lo ngại rằng việc phát triển quảng cáo trong luồng mới nhất của Facebook trong những video Trực tiếp truyền hình sẽ càng khuyến khích những diễn viên clickbait giả mạo chúng. Một nhóm ở Campuchia với 18 trang đã bắt đầu đăng thông tin sai lệch về chính trị có tính gây thiệt hại lớn, đạt tổng cộng 16 triệu lượt tương tác và 1,6 triệu người xem trong 4 tháng. Facebook đã gỡ bỏ tất cả 18 trang vào tháng 3 nhưng những cụm mới vẫn tiếp tục tăng lên trong khi những cụm khác vẫn còn.
Tất cả những gì Rio biết là những tác nhân Việt Nam và Campuchia này không nói được tiếng Miến Điện. Họ có thể không hiểu văn hóa Miến Điện hoặc chính trị của đất nước này. Điểm mấu chốt là họ không cần phải hiểu những chuyện đó. Không cần, khi họ ăn cắp bài/video clip từ Miến Điện.
Rio kể từ đó đã thành lập một số nhóm Facebook và Telegram riêng của người Campuchia (một nhóm có hơn 3.000 người), nơi họ trao đổi công cụ và tiểu xảo về những chiến lược kiếm tiền tốt nhất. MIT Technology Review đã xem xét những tài liệu, hình ảnh và video mà Rio thu thập được, đồng thời thuê một phiên dịch viên tiếng Khmer để diễn giải video hướng dẫn hướng dẫn người xem từng bước qua tiến trình clickbait.
Tài liệu cho thấy cách những nhóm điều hành ở Campuchia thu thập nghiên cứu về nội dung hoạt động tốt nhất ở mỗi quốc gia và đạo văn dùng cho những trang web clickbait của họ. Một thư mục Google Drive được chia sẻ trong cộng đồng có hai chục bảng tính liên kết đến những nhóm Facebook phổ biến nhất ở 20 quốc gia, gồm Mỹ, Anh, Úc, Ấn Độ, Pháp, Đức, Mexico và Brazil.
Video hướng dẫn cũng cho thấy cách họ tìm thấy những video YouTube lan truyền nhiều nhất bằng những ngôn ngữ khác nhau và dùng một công cụ tự động để chuyển đổi từng video thành một bài viết cho trang web của họ. Chúng tôi đã tìm thấy 29 kênh YouTube truyền bá thông tin chính trị sai lệch về tình hình chính trị hiện tại ở Myanmar, chẳng hạn, đã được chuyển đổi thành những bài báo kích động và được phân phối lại cho khán giả mới trên Facebook.
Sau khi chúng tôi gây sự chú ý đến những đài truyền tin giả đó, YouTube đã chấm dứt hoạt động của tất cả những kênh đó vì vi phạm nguyên tắc cộng đồng, trong đó có 7 kênh mà họ xác định là một phần của những hoạt động phối hợp gây ảnh hưởng có liên quan đến Myanmar. Choi lưu ý rằng YouTube trước đó cũng đã ngừng phát tán quảng cáo gần 2.000 video trên những kênh này. Bà nói: “Chúng tôi tiếp tục tích cực giám sát những mạng xã hội để ngăn chặn những kẻ xấu lợi dụng mạng lưới của chúng tôi để trục lợi.”
Sau đó, có những công cụ khác, gồm một công cụ cho phép video được ghi sẵn xuất hiện dưới dạng video Facebook trực tiếp truyền hình (Live) giả mạo. Một công cụ khác tạo ra những chi tiết hồ sơ lý lịch cho nam giới Hoa Kỳ, gồm cả hình ảnh, tên, ngày sinh, số an sinh xã hội, số điện thoại và địa chỉ, nhưng một công cụ khác có thể tạo hàng loạt trương mục Facebook giả bằng cách dùng một số thông tin đó.
Giờ đây, việc nhiều diễn viên Campuchia hoạt động một mình đã trở nên dễ dàng. Rio gọi họ là những doanh nhân vi mô. Trong trường hợp khắc nghiệt nhất, bà ấy thấy những cá nhân quản lý tới 11.000 trương mục Facebook của riêng họ.
Những doanh nhân vi mô thành công cũng đang đào tạo những người khác làm công việc này trong cộng đồng của họ. Bà nói, “Nó sẽ tệ hơn nữa. Bất kỳ người nào trên thế giới này đều có thể ảnh hưởng đến môi trường thông tin mà bạn không nhận ra.”
Vụ lợi trước an toàn
Trong lời khai trước Thượng viện vào tháng 10 năm nay, Haugen đã nêu bật những sai sót căn bản trong cách tiếp cận dựa trên nội dung của Facebook đối với việc lạm dụng mạng xã hội.Bà nói chiến lược hiện tại, tập trung vào những gì có thể và không thể xuất hiện trên mạng xã hội, chỉ mang tính phản ứng và không bao giờ toàn diện. Nó không chỉ yêu cầu Facebook phải liệt kê mọi hình thức lạm dụng có thể xảy ra mà còn yêu cầu công ty này phải thành thạo trong việc kiểm duyệt ở mọi ngôn ngữ. Bà nói Facebook đã thất bại trên cả hai phương diện — và những người dễ bị thua thiệt nhất trên thế giới đã phải trả giá đắt nhất.
Haugen cho biết, thủ phạm chính là mong muốn của Facebook để tối đa hóa sự tương tác, điều này đã biến thuật toán và thiết kế mạng xã hội của nó thành một công cụ khổng lồ cho lời nói căm thù và thông tin sai lệch. Một cuộc điều tra của MIT Technology Review từ đầu năm nay, dựa trên hàng chục cuộc phỏng vấn với những giám đốc điều hành Facebook, nhân viên hiện tại và trước đây, đồng nghiệp trong ngành và những chuyên gia bên ngoài, đã chứng thực đặc điểm này.
Lời khai của bà ấy cũng lặp lại những gì Allen đã viết trong phúc trình của ông ấy — và những gì Rio và những chuyên gia thông tin sai lệch khác đã nhiều lần thấy qua nghiên cứu của họ. Đối với những trại clickbait, tham gia vào những chương trình kiếm tiền là bước đầu tiên, nhưng họ kiếm được bao nhiêu tiền còn tùy thuộc vào mức độ mà hệ thống đề nghị nội dung của Facebook thúc đẩy những bài viết của họ. Họ sẽ không phát triển mạnh, cũng như không đạo văn những nội dung gây tổn hại như vậy, nếu những chiến thuật mờ ám của họ không hoạt động hiệu quả trên mạng xã hội.
Do đó, tự mình dẹp bỏ những trại không phải là giải pháp: những người có động cơ cao sẽ luôn có thể tạo ra những trang web mới và những trang mới để kiếm được nhiều tiền hơn. Thay vào đó, những thuật toán và cơ chế khen thưởng nội dung cần được giải quyết.
Trong phúc trình, Allen đã đề nghị một cách khả thi mà Facebook có thể làm điều này: bằng cách dùng cái gọi là thước đo thẩm quyền dựa trên biểu đồ để xếp hạng nội dung. Điều này sẽ khuếch đại những trang chất lượng cao hơn như tin tức và phương tiện truyền thông và giảm bớt những trang chất lượng thấp hơn như clickbait, đảo ngược xu hướng hiện tại.
Haugen nhấn mạnh rằng việc Facebook không sửa chữa mạng xã hội của hị không phải vì muốn có giải pháp, công cụ hoặc năng lực. Bà nói:
“Facebook có thể thay đổi nhưng rõ ràng sẽ không tự làm như vậy. Nỗi sợ của tôi là nếu không có hành động, những hành vi gây chia rẽ và cực đoan mà chúng ta thấy ngày nay chỉ là khởi đầu. Những gì chúng tôi thấy ở Myanmar và bây giờ đang thấy ở Ethiopia chỉ là những chương mở đầu của một câu chuyện đến nỗi không ai muốn đọc phần cuối của nó.”
Frances Haugen
(Osborne cho biết Facebook có cách giải quyết về căn bản khác với Myanmar ngày nay với chuyên môn cao hơn về những vấn đề nhân quyền của quốc gia này và một đội ngũ chuyên môn và kỹ thuật để tìm ra nội dung vi phạm, chẳng hạn như lời nói căm thù, bằng tiếng Miến Điện).
Vào tháng 10, đặc phái viên sắp mãn nhiệm của Liên hợp quốc về Myanmar cho biết nước này đã rơi vào cuộc nội chiến. Kể từ đó, hàng nghìn người đã chạy sang những nước láng giềng như Thái Lan và Ấn Độ. Tính đến giữa tháng 11, những tác nhân clickbait tiếp tục đăng tin giả hàng giờ. Trong một bài đăng, nhân vật lãnh đạo dân chủ, “Mẹ Suu,” đã bị ám sát. Trong một lần khác, bà ấy cuối cùng đã được giải thoát.
Tác giả | Karen Hao là biên tập viên về AI tại MIT Technology Review, viết về nghiên cứu tiên tiến của lĩnh vực này và ảnh hưởng của nó đối với xã hội. Bà là tác giả một bản tin hàng tuần tên là The Algorithm, được The Webby Awards vinh danh là một trong những bản tin hay nhất trên internet vào năm 2019. Tác phẩm của Karen Hao cũng đã giành được Giải thưởng Trang nhất và được xếp vào danh sách ngắn cho Giải thưởng Sigma và Ambies. Trước khi làm việc với MIT Technology Review, bà là một phóng viên kỹ thuật và chuyên viên khoa học dữ liệu tại Quartz và là một kỹ sư ứng dụng tại công ty khởi nghiệp đầu tiên sinh ra Google X. Karen Hao tốt nghiệp Kỹ sư Cơ khí phần phụ về nghiên cứu năng lượng tại MIT. Karen Hao cũng đồng phát hành một podcast AI, In Machines We Trust, đã giành được Front Page Award.
Đặc biệt cảm ơn nhóm của chúng tôi. Rachel Stein và Andre Vitorio thiết kế và phát triển. Emily Luong và Stephanie Arnett sản xuất nghệ thuật. Niall Firth và Mat Honan biên tập. Matt Mahoney kiểm tra sự thật. Linda Lowenthal chỉnh sửa.
Đính chính: Một phiên bản trước của bài báo này đã viết không chính xác rằng sau khi chúng tôi liên hệ với Facebook, những tác nhân clickbait ở Campuchia đã bắt đầu phàn nàn trên những diễn đàn trực tuyến về việc bị loại ra khỏi Instant Articles. Những người đó thực sự ở Myanmar.
© 2021 DCVOnline Nếu đăng lại, xin ghi nguồn và đọc “Thể lệ trích đăng lại bài từ DCVOnline.net”
Nguồn: How Facebook and Google fund global misinformation | Karen Hao | MIT Technology Review | November 20, 2021