Ai đang kiểm duyệt Facebook kubet của bạn?

Bạn đã bao giờ tự hỏi ai là người quyết định liệu mọi bài đăng hoặc video có thể được tải lên thành công trên nền tảng xã hội hay không? Hai đạo diễn người Đức, Hans Block và Moritz Riesewieck, đã mất sáu năm theo dõi khắp năm quốc gia và cuối cùng đã tìm ra hàng trăm “đội quân mật ong” ở Philippines, với mức lương mỗi giờ từ 1 đến 3 đô la Mỹ, họ sử dụng tốc độ vài chục đô la Mỹ. giây để kiểm tra nội dung trên nền tảng toàn cầu. Công việc này khác xa với giấc mơ vàng của Thung lũng Silicon, nhưng cái giá phải trả rất cao. Có người cuối cùng đã treo cổ tự tử trước màn hình máy tính - và anh ta là người chịu trách nhiệm kiểm duyệt nội dung liên quan đến tự tử.

Ngồi trong văn phòng của mình ở Đông Berlin, Riswick, 34 tuổi, đã nhận lời phỏng vấn độc quyền với The Reporter. Trước khi chúng tôi hỏi, đầu tiên anh ấy hỏi liệu có “tin tốt” nào ở Đài Loan rằng các công cụ kỹ thuật số có thể mang lại sự thay đổi xã hội. Sau sáu năm theo đuổi từ Thung lũng Silicon đến Manila, anh ấy lại muốn tin vào công nghệ.

Bắt đầu từ một câu hỏi đơn giản, hai đạo diễn phim tài liệu đến từ Đức không bao giờ ngờ rằng họ sẽ bước vào góc tối của công nghệ, nơi làm việc cướp đi sinh mạng của con người.

“Ngay từ đầu tôi đã tò mò, tại sao một số bài đăng (trên các trang mạng xã hội) có thể được đăng còn những bài khác thì không?”, Riswick đã làm theo câu hỏi này và bắt đầu điều tra từ sáu năm trước. Kế hoạch bí ẩn được gọi là Honey Badger.

Theo điều tra của Reuters , Honey Badger Project là công ty chuyên gia công công việc cung cấp các dự án tìm kiếm lao động bên ngoài cho các công ty Internet ở Malaysia, Philippines và các nơi khác. Người tìm việc sẽ chỉ biết đến lời của Dự án Honey Badger, nhưng trừ khi họ ký hợp đồng lao động, họ sẽ không biết rằng công việc họ đang xin việc ở Philippines thực chất là kiếm tiền từ Thung lũng Silicon; Nói một cách thẳng thắn, chức danh của nhà phân tích hoạt động Cộng đồng là người đánh giá nội dung của các trang mạng xã hội.

Phải mất sáu năm, Riswick và đối tác Bullock mới đến thăm California, Myanmar, Bangladesh, Thổ Nhĩ Kỳ và Manila ở Hoa Kỳ. Bắt đầu từ những câu hỏi về đánh giá nội dung, họ đã quan sát và ghi lại sâu sắc những tình huống khó xử mà những người ra quyết định và những người ở Thung lũng Silicon phải đối mặt. Suy nghĩ thực sự của họ khi đưa ra các quyết định nội bộ cũng khiến người xem thấy được , người tị nạn Syria, người Thổ Nhĩ Kỳ, v.v. đã dính líu đến vòng xoáy nhân quyềnnhững nạn nhân Rohingya . "The Cleaners" không chỉ lọt vào danh sách rút gọn của Liên hoan phim Sundance và Liên hoan phim Rotterdam mà còn giành được 7 giải thưởng điện ảnh trong đó có Liên hoan phim nhân quyền quốc tế và Liên hoan phim tài liệu quốc tế.

Tiền tuyến ngăn chặn khủng bố chỉ có vài giờ huấn luyện

Phải mất sáu năm, ngoài việc kết hợp quan điểm của các bên liên quan khác nhau, khó khăn lớn nhất là làm thế nào để những "nhà phân tích hoạt động cộng đồng" này lên tiếng.

Riswick cho biết: “Tất cả họ đều ký hợp đồng với thỏa thuận bảo mật nghiêm ngặt. Họ không được đề cập đến nội dung công việc này với bất kỳ ai, kể cả người nhà của họ”. với người ngoài, thậm chí cả người nhà của người được phỏng vấn phải đợi đến khi phim chiếu xong mới hiểu con cái họ và những người thân yêu của họ làm gì khi rời khỏi nhà hàng ngày.

Ryswick nói: “Chúng tôi đã đến gặp cố vấn pháp lý và biết được rằng mặc dù các công ty có thể ngăn chặn việc rò rỉ bí mật nhưng họ không thể ngăn cản nhân viên chia sẻ cảm xúc của mình”. Mặc dù vậy, trung bình đội quay phim phải mất vài tháng để tạo dựng được niềm tin với người được phỏng vấn. Những người được phỏng vấn cuối cùng trong phim chủ yếu là nhân viên cũ.

Trên thực tế, không khó để tìm ra những nhân viên đã nghỉ việc. Thời gian làm việc lâu nhất của một nhà phân tích hoạt động cộng đồng chỉ là nửa năm. Đoạn video ghi lại một cách sống động những thay đổi trong tâm trạng của một nhân viên từ khi gia nhập đến khi quyết định rời đi.

Nguyên nhân chính khiến họ ra đi nhanh chóng là áp lực tinh thần. Công việc của một nhà phân tích hoạt động cộng đồng là như thế này: mỗi video, ảnh hoặc bài đăng chỉ có vài giây để quyết định xóa hay xuất bản. Nếu mất quá nhiều thời gian, tác phẩm của họ sẽ không đạt chất lượng.

Chỉ trong vài giây, những thanh niên này ở Philippines đã phải quyết định nên giữ hay xóa đoạn phim về vụ đánh bom quân sự ở Syria. Hay xác định xem bức ảnh người lính dẫn chó đến thẩm vấn một người đàn ông đang quỳ là yêu cầu tra tấn của một kẻ khủng bố hay một hành động vô đạo đức của quân đội Mỹ?

“Bạn phải nhớ rằng, những người này không hiểu đạo Hồi, họ không biết chuyện gì đang xảy ra ở Syria và họ không biết mối quan hệ giữa quyền lực tối cao của người da trắng và sự phân biệt chủng tộc ở Hoa Kỳ, nhưng họ phải quyết định. một bài đăng trong vòng vài giây cho dù văn bản vẫn còn hay biến mất."

Riswick trích dẫn một số ví dụ về sai sót trong phán đoán trong phim, đồng thời anh đã tìm ra người sử dụng bài đăng và "nạn nhân" của bài đăng, chỉ ra những sai sót trong cơ chế kiểm duyệt nội dung của các trang mạng xã hội.

Không chỉ khó khăn trong việc phán xét mà còn là trách nhiệm mà họ phải gánh chịu. Những thanh niên này được tuyển mộ từ đường phố và trường học và chỉ được huấn luyện trong vài giờ đã trở thành tuyến đầu trong việc ngăn chặn chủ nghĩa cực đoan và khủng bố. "Bộ An ninh Nội địa Hoa Kỳ đã cung cấp một danh sách và chúng tôi phải loại bỏ 37 người được liệt kê ở trên". ông nói. Các tổ chức khủng bố rồi xóa nội dung họ xuất bản", một cựu kiểm duyệt nói trong một cuộc phỏng vấn. "Thuật toán không thể làm được điều đó, nhưng tôi có thể, và tôi phải giúp mọi người không bị tổn hại."

“Tôi từng chứng kiến ​​hàng trăm người bị chặt đầu” Nỗi đau nội tâm của người kiểm duyệt khó thấy

Đạo diễn "Những người bảo vệ" Moritz Riesewieck. (Ảnh cung cấp/Liên hoan phim Nhân quyền Quốc tế Đài Loan)

Ryswick thở dài: “Đối với một số người, họ làm điều đó với cảm giác tôn giáo, nếu không thì họ có thể không làm được.

Một nhà kiểm duyệt Công giáo khác trong phim tin rằng mình nên bảo vệ thế giới trên nền tảng xã hội, “(Giống như) Chúa Giêsu đã chết trên thập tự giá, tại sao tôi không chịu trách nhiệm nhiều hơn cho thế giới trực tuyến này để nhiều người hơn có thể tránh bị phơi nhiễm”. lạm dụng?" "Còn vết thương thì sao?" Sau vài tháng làm việc, cuối cùng cô ấy đã xin nghỉ việc vì chấn thương. "Tôi cảm thấy như mình đã trở thành một người khác, giống như một loại virus xâm nhập vào cơ thể tôi. Ngay cả cách tôi suy nghĩ cũng đã thay đổi", cựu kiểm duyệt nói.

Riswick, người đã dành sáu năm để theo dõi vụ việc và cố gắng xin việc làm thanh tra, tin rằng mình đang kể một câu chuyện về một "loại chấn thương mới liên quan đến công việc".

Các nhà kiểm duyệt chứng kiến ​​bạo lực, máu me và nội dung khiêu dâm hàng ngày. Đôi khi có những video về xác chết nằm rải rác trên chiến trường, đôi khi là những bức ảnh về những đứa trẻ dính đầy tinh dịch, và thậm chí tệ hơn là những chương trình phát sóng trực tiếp về các vụ tự sát. Tất cả các loại nội dung khó chịu tạo nên ngày làm việc của người kiểm duyệt. Một nhân viên được phỏng vấn trong phim tiết lộ rằng một đồng nghiệp chuyên kiểm duyệt nội dung tự sát cuối cùng đã treo cổ tự tử sau nhiều lần nộp đơn xin thuyên chuyển không thành công. “Anh ấy đã chọn cách treo cổ tự tử trước màn hình laptop. Đây là điều anh ấy muốn truyền tải”. " anh ấy nói. Tin nhắn," đồng nghiệp của người quá cố nói.

Riswick giải thích: “Facebook  kubet luôn nói rằng họ quan tâm đến nhân quyền (nhân viên), vì vậy họ yêu cầu các đơn vị gia công này cung cấp tư vấn tâm lý cho nhân viên”. Các nhà tư vấn tâm lý có quan tâm đến nhân viên nhưng phương pháp của họ là hỏi họ "Mọi người có ổn không?" trong các cuộc họp nhóm để hoàn tất quá trình tìm hiểu trạng thái tâm lý của giám khảo.

Ryswick nhấn mạnh với "Phóng viên" rằng: "Đây là một cách hoàn toàn mới để lạm dụng người lao động. Trước đây, thương tích liên quan đến công việc là có thể nhìn thấy được, nhưng không thể nhìn thấy các loại thương tích và chấn thương liên quan đến công việc mới trong thời đại kỹ thuật số". những nhân vật cấp thấp trong phim Những người làm công ăn lương không chỉ phải dùng vài giây để đưa ra những câu trả lời mà giới tinh hoa ở Thung lũng Silicon không chắc chắn mà còn phải trả bằng mạng sống của mình những cái giá mà giới tinh hoa ở Thung lũng Silicon không muốn trả : chính những điều này Những tổn thương vô hình liên quan đến công việc giúp Facebook  kubet và Google tiếp tục thống trị quảng cáo toàn cầu.

Ngày 23/10, tại phiên điều trần của Hạ viện Mỹ, người sáng lập Facebook  kubet Mark Zuckerberg đã trả lời các câu hỏi liên quan đến việc xem xét nội dung.

Sự hiểu biết của Zuckerberg về tình hình hiện tại rõ ràng là khác với hiểu biết trong phim tài liệu và của Hạ viện. Dân biểu Đảng Dân chủ Hoa Kỳ Katie Porter đã hỏi: “Việc kiểm duyệt nội dung của Facebook  kubet dựa vào việc 15.000 nhà thầu xem video về các vụ giết người, đâm chém, tự tử và các video kinh hoàng và kinh tởm khác, phải không?” Zuckerberg trả lời để xác nhận điều này. Nhưng liên quan đến những điều kiện khó khăn như lương thấp và không đủ hỗ trợ tâm lý, Zuckerberg chỉ nói rằng anh sẽ đảm bảo rằng các nhân viên sẽ đấu tranh vì những lợi ích mà họ xứng đáng được hưởng. Và khi nghị sĩ hỏi Zuckerberg liệu anh có sẵn sàng dành một giờ mỗi ngày để xem lại nội dung Facebook  kubet không? Zuckerberg đã trả lời hai lần: “Công việc của tôi không phải là phục vụ lợi ích tốt nhất cho cộng đồng của chúng ta”.

Riswick nhấn mạnh: “Chúng tôi không làm bộ phim này với tâm lý bộc lộ mà là để cảm xúc của họ (công nhân) được lắng nghe.” So với tuyên bố chính thức, bộ phim thể hiện tính bộc lộ mạnh mẽ. được lắng nghe, và cần phải nhìn thấy dấu ấn của luồng thông tin hiện đại đối với giới trẻ ở các quốc gia đang phát triển này. Khi Thung lũng Silicon không ngừng đề cao vẻ đẹp của việc “tạo ra sự kết nối”, họ chính là những người tạo ra những luồng thông tin hỗn loạn. hàng trăm triệu tin nhắn mỗi ngày, hỗ trợ một cỗ máy quảng cáo khổng lồ và kiếm được 1 đến 3 đô la Mỹ mỗi giờ.

Lo AI và thuật toán sẽ trở thành giải pháp nền tảng

Đối mặt với tình thế tiến thoái lưỡng nan của các nhà kiểm duyệt Internet, liệu thuật toán có thực sự là giải pháp hay nó sẽ tạo ra một con quái vật không thể kiểm soát khác, thậm chí không thể bộc lộ “cảm xúc” và kiểm soát quyền tự do của hàng tỷ người dùng? (Ảnh cung cấp/Liên hoan phim Nhân quyền Quốc tế Đài Loan)

Dù Ryswick biết rằng cuộc phỏng vấn tập trung vào cảm xúc của người kiểm duyệt hơn là bí mật của các công ty công nghệ, nhưng riêng tổn thương và cảm xúc của tác phẩm cũng giống như việc khai quật được một lỗ đen trong ngành kinh doanh mạng xã hội, đó là sự phơi bày những chi phí tiềm ẩn. Ngoài ánh sáng, ở phía bên kia của thị trường lợi nhuận lớn, nền tảng công nghệ đã không nói lên sự thật.

Internet Guardian không chỉ buộc tội các nhà khai thác nền tảng. Ngoài các cuộc phỏng vấn với các cựu giám đốc điều hành của Google và Facebook  kubet thừa nhận trách nhiệm nền tảng của họ, mục tiêu của giám đốc là trình bày các yếu tố mang tính cấu trúc và giải thích từ góc độ con người tại sao công việc này vẫn tiếp tục tồn tại. Vì vậy, nhóm của Ryswick không chỉ sử dụng các tòa nhà cũ và giao diện mô phỏng chương trình để quay phim công việc của các thanh tra viên mà còn ghi lại các góc nhìn và theo chân các thanh tra viên về nhà để hiểu hoàn cảnh gia đình cũng như tầm quan trọng của công việc này đối với họ.

Trong số đó, một cựu kiểm duyệt đã đưa vị giám đốc vào một bãi rác và ngôi nhà của ông làm bằng gỗ, tiết lộ một cách trần trụi rằng ở những quốc gia và thành phố có khoảng cách giàu nghèo rất lớn, điều kiện làm việc tồi tàn như vậy có thể vẫn tốt hơn là đi nhặt rác. tốt hơn. Chính phủ Philippine sẵn sàng khuyến khích các công ty outsourcing không chỉ cung cấp cơ hội việc làm mà còn có thể gia nhập chuỗi công nghệ hàng đầu thế giới.

Sau khi "Guardians of the Internet" được phát hành, ngoài việc được công nhận bằng các giải thưởng, điều đáng mừng nhất đối với đội ngũ sản xuất là cuộc thảo luận mà nó đã gây ra ở nhiều quốc gia, phản ánh chân thực những nhận thức khác nhau của người dân ở nhiều quốc gia trên mạng xã hội. ;dù là phần hỏi đáp của khán giả sau buổi chiếu hay những cuộc thảo luận ở nhiều nơi đánh giá phim đã trở thành một tấm gương khác cho thấy tầm quan trọng và những tranh cãi về vai trò của mạng xã hội trong thời hiện đại. Đáng tiếc, bất chấp những lời mời trong quá trình quay phim hay những lời mời và thảo luận trong buổi chiếu, những người điều hành nền tảng liên quan vẫn giữ thái độ không phản hồi và đối mặt với hố đen lộ diện bằng sự im lặng.

Ngành công nghiệp này im lặng, nhưng cuộc thảo luận giữa những người dùng thật đáng kinh ngạc. "Internet Guardians" đã giành được các giải thưởng ở Geneva, Jerusalem và Moscow. Tại Đức, nó được lọt vào danh sách rút gọn cho các giải thưởng phim tài liệu và truyền hình. Sau khi bộ phim được trình chiếu, Riswick đã ngay lập tức xuất bản một cuốn sách để đáp ứng nhu cầu của chính phủ Đức. tăng cường giám sát các nền tảng xã hội. Ở Nga, mọi người đang thảo luận sôi nổi về cách các công ty Mỹ kiểm soát việc cung cấp thông tin toàn cầu.

Cũng giống như trò chơi bấm lỗ, Riswick khám phá sự kém cỏi và bất lực của các nền tảng xã hội trong việc kiểm soát thông tin từ tình hình kiểm duyệt trong suốt 6 năm, và sau khi chỉ ra những khó khăn của việc gia công lao động ở cấp cơ sở, Riswick cũng không ngừng tự hỏi mình, nếu gia công ngoài thì sao? nhân lực Nếu đó không phải là câu trả lời, nền tảng xã hội sẽ phản ứng thế nào?

“Điều tôi lo ngại là các nhà khai thác nền tảng xã hội sẽ tăng cường chính sách kiểm duyệt bằng thuật toán và trí tuệ nhân tạo”, ông nói. con quái vật thậm chí không thể tiết lộ "cảm xúc" của mình và kiểm soát quyền tự do của hàng tỷ người dùng? “Những người chơi trong ngành công nghệ phải luôn nhắc nhở bản thân (về sự nguy hiểm của thuật toán) nếu họ thực sự muốn giải quyết vấn đề”.

Từng là một quốc gia có nhân quyền hiếm hoi được Liên Hợp Quốc kubet  công nhận