Cách thuật toán mạng xã hội quyết định những gì con bạn xem

Thuật toán mạng xã hội thực ra là gì

Thuật toán mạng xã hội là một hệ thống đề xuất: phần mềm dự đoán những bài đăng, video, hay tài khoản nào con bạn có nhiều khả năng tương tác nhất, rồi sắp xếp bảng tin của con để đặt những thứ đó lên trước. Khi người ta nói thuật toán, họ thường ám chỉ cỗ máy phía sau một trang „For You” hay một bảng tin trang chủ được xếp hạng — thứ quyết định, trong số hàng triệu bài đăng khả dĩ, một nhúm nhỏ mà con bạn thực sự thấy tiếp theo.

Không có một thuật toán chủ duy nhất, và thậm chí cũng không phải một thuật toán cho mỗi ứng dụng. Như người đứng đầu Instagram, Adam Mosseri, đã giải thích, mỗi phần của một nền tảng — bảng tin chính, Stories, Reels, Explore, Search — vận hành hệ thống xếp hạng riêng với các mục tiêu và tín hiệu riêng. Vậy nên một thiếu niên có thể có một trang Explore điềm tĩnh và một bảng tin Reels hỗn loạn trên cùng một tài khoản, và „sửa thuật toán” hiếm khi có nghĩa là một công tắc duy nhất.

Điều mà mọi phiên bản đều chia sẻ là động tác cơ bản. Nó lấy một kho khổng lồ các bài đăng ứng viên, dự đoán một điểm số cho mỗi bài — khả năng bạn sẽ xem, thích, bình luận, hay chia sẻ nó là bao nhiêu — và hiển thị một vài bài có điểm cao nhất. Rồi nó làm lại toàn bộ quá trình đó mỗi khi màn hình làm mới, học từ những gì vừa diễn ra. Bảng tin cho cảm giác mang tính cá nhân bởi vì nó đúng là như vậy: nó được tái tạo lại, từng giây một, từ chính hành vi của con bạn.

Điều đó để lại hai câu hỏi thực sự quan trọng đối với một phụ huynh: thuật toán đang đọc được gì về con tôi, và nó đang cố gắng đạt được điều gì? Những câu trả lời trung thực thì cụ thể hơn — và hữu ích hơn — so với câu „nó gây nghiện”.

Những tín hiệu nào nó đọc được về con bạn

Thuật toán đọc hai loại tín hiệu: những điều con bạn làm có chủ đích, và những điều con không nhận ra mình đang làm. Trên các bảng tin video ngắn mà thiếu niên ưa chuộng, loại thứ hai thường quan trọng hơn so với phụ huynh hình dung — đôi khi còn quan trọng hơn cả chính các lượt thích và lượt theo dõi. TikTok, trong chính phần mô tả về bảng tin For You của mình, nhóm các đầu vào của nó thành các tương tác của người dùng (lượt thích, lượt chia sẻ, lượt theo dõi, bình luận), chi tiết video (chú thích, âm thanh, hashtag), và cài đặt tài khoản (ngôn ngữ, quốc gia, thiết bị) — và nói rõ rằng những thứ này không được tính trọng số như nhau. Việc xem hết một video dài hơn được tính cao hơn rất nhiều so với, chẳng hạn, việc cùng quốc gia với người sáng tạo nội dung.

Cột thứ hai đó là phần phụ huynh hiếm khi hình dung ra. Khi The Wall Street Journal điều tra thuật toán của TikTok vào năm 2021 bằng khoảng một trăm tài khoản tự động, họ phát hiện tín hiệu mạnh mẽ nhất duy nhất chính là thời gian xem — một tài khoản nán lại, dừng lại, hay xem lại trong bao lâu — hoạt động một cách thụ động, không cần phải thích hay theo dõi bất cứ thứ gì. Một tài liệu nội bộ bị rò rỉ của TikTok, được The New York Times đưa tin cùng năm đó, mô tả hệ thống kết hợp các lượt thích, bình luận được dự đoán, và — quan trọng nhất — thời lượng phát thành một điểm số duy nhất cho mỗi video.

Đây là lý do vì sao thời gian dừng lại lại mạnh mẽ đến vậy: nó trung thực. Con bạn có thể không bao giờ thích một video về cảm giác mình vô dụng, nhưng nếu con chậm lại và xem nó hai lần, bảng tin đã có câu trả lời của mình. Các nền tảng khác cũng hoạt động theo cùng một cách — Instagram xếp hạng Reels một phần dựa trên khả năng bạn sẽ xem một video từ đầu đến cuối, và các hệ thống cũng dựa vào những người giống bạn, đề xuất những gì mà các khán giả tương tự đã xem tiếp theo. Sự ngần ngừ của con bạn đang được đo lường, và con không hề biết rằng nó được tính.

Thực ra nó đang tối ưu cho điều gì

Điều mà thuật toán tối ưu hóa là sự gắn kết — giữ con bạn ở lại trên ứng dụng — chứ không phải hạnh phúc, giá trị, hay sự thật của con. Sự phân biệt đó là toàn bộ cuộc chơi. Một tài liệu nội bộ năm 2021 của TikTok do The New York Times thu thập được đã mô tả mục tiêu bằng chính lời lẽ của công ty: hệ thống được điều chỉnh cho hai chỉ số cốt lõi, „retention” (liệu bạn có quay lại không) và „time spent” (thời gian bỏ ra) — những đích nhắm nằm bên dưới các giới hạn về an toàn và chất lượng mà một nền tảng đặt thêm lên trên. Một bảng tin được xây dựng để tối đa hóa những thứ đó không hề nói dối con bạn; nó đơn giản là có một mục tiêu khác với mục tiêu của con.

Phần lớn thời gian, „điều gì giữ bạn tiếp tục xem” và „điều gì tốt cho bạn” chỉ về cùng một hướng đại khái giống nhau. Vấn đề nằm ở khoảng cách giữa chúng — và nội dung gây xúc động mạnh sống trong khoảng cách đó. Nội dung gây xúc động mạnh luôn đáng tin cậy trong việc giành lấy sự chú ý. Cụ thể với các bài đăng chính trị, một nghiên cứu lớn về 2,7 triệu bài đăng phát hiện rằng những bài về một nhóm chính trị đối lập được chia sẻ thường xuyên gấp khoảng hai lần so với những bài về phe của chính mình, và thu hút nhiều phản ứng „phẫn nộ” hơn hẳn — và một hệ thống tưởng thưởng cho sự gắn kết sẽ, không hề có ác ý, có xu hướng khuếch đại bất cứ thứ gì gây kích động.

Các nền tảng đã biết điều này nhiều năm rồi. Khi người tố giác Frances Haugen tiết lộ hàng nghìn tài liệu nội bộ của Meta vào năm 2021, một tập tài liệu cho thấy rằng một thay đổi năm 2018 nhằm thúc đẩy các tương tác „có ý nghĩa” thay vào đó lại, theo chính phân tích của công ty, khuếch đại sự phẫn nộ và nội dung gây chia rẽ — và rằng những nhân viên đã cảnh báo về điều đó được cho biết rằng các phương án sửa chữa có thể làm sứt mẻ sự gắn kết là một điều rất khó được chấp thuận. Một bản ghi nhớ nội bộ đã nói thẳng về tác dụng phụ này:

Thông tin sai lệch, sự độc hại, và nội dung bạo lực hiện diện một cách quá mức trong các lượt chia sẻ lại.

— bản ghi nhớ nghiên cứu nội bộ của Facebook, 2021, được The Wall Street Journal đưa tin

Không điều nào trong số này có nghĩa là thuật toán được thiết kế để làm hại con bạn, hay rằng việc sử dụng nhiều hơn một cách trực tiếp gây ra tác hại. Mối liên hệ đó thực sự còn đang gây tranh cãi. Các thí nghiệm lớn năm 2023 thay các bảng tin bằng thuật toán bằng các bảng tin theo trình tự thời gian đã thay đổi những gì người ta thấy nhưng không làm dịch chuyển thái độ của họ một cách đo lường được, và các nhà nghiên cứu về phát triển như Candice Odgers cảnh báo rằng bằng chứng cho một cuộc khủng hoảng sức khỏe tâm thần của thanh thiếu niên do màn hình gây ra là „một sự pha trộn giữa không có, nhỏ và lẫn lộn”. Bản tóm tắt công bằng thì hẹp hơn, và vẫn đáng để hành động: bảng tin được xây dựng để giữ sự chú ý, nó có thể khuếch đại thứ có hại dễ dàng như khuếch đại thứ vô hại, và chính nghiên cứu của các công ty đã cho thấy điều đó từ lâu.

Cách bảng tin học — và thu hẹp lại

Bởi vì nó học từ hành vi theo thời gian thực, bảng tin không chỉ phản ánh sở thích của con bạn — nó định hình chúng, thông qua một vòng phản hồi. Mỗi video con bạn nán lại đều nói với hệ thống „thêm những thứ như thế này nữa”, nên nó phục vụ thêm những thứ như thế này, điều đó cho nó thêm cơ hội để tìm ra thứ giữ chân con, và cứ thế tiếp diễn. Thí nghiệm bằng bot của The Journal phát hiện rằng trang For You có thể xác định chính xác sở thích thực sự của một tài khoản trong vòng chưa đầy hai giờ, rồi dẫn nó vào những „hang thỏ” nội dung liên quan chặt chẽ ngày càng hẹp hơn.

Vòng lặp có xu hướng thu hẹp lại thay vì mở rộng ra. Một thiếu niên dừng lại, dù chỉ một lần, trên nội dung về sự cô đơn, ăn kiêng, hay tự chỉ trích bản thân thì đã trao cho thuật toán một tín hiệu — và việc của thuật toán là hành động dựa trên các tín hiệu, chứ không phải hỏi xem việc hành động dựa trên tín hiệu này có khôn ngoan hay không. Nó không thể phân biệt được sự khác nhau giữa „Tôi muốn xem thêm cái này” và „Tôi không thể rời mắt khỏi cái này”. Đối với hệ thống, hai điều đó là một.

Đây là cơ chế đằng sau trải nghiệm mà các phụ huynh nhận thấy: một thiếu niên đã xem vài video buồn bã trong một đêm tồi tệ nào đó, và giờ dường như không thể thoát khỏi một bảng tin tràn ngập chúng. Đó không phải là chứng hoang tưởng, và đó cũng không phải là sự trừng phạt. Đó là một cỗ máy đề xuất đang làm đúng những gì nó được xây dựng để làm — và một thiếu niên đang phát triển, vốn đặc biệt nhạy cảm với phản hồi xã hội, lại cung cấp những tín hiệu mà nó vận hành dựa vào. Bài hướng dẫn trụ cột của chúng tôi đi sâu hơn về cách thuật toán quyết định và những hang thỏ mà nó có thể tạo ra.

Khi vòng lặp trở nên có hại

Với phần lớn thanh thiếu niên, trong phần lớn thời gian, điều này là vô hại — một bảng tin phục vụ quá mức các clip nấu ăn hay những pha bóng đá đẹp mắt. Nó trở nên nguy hiểm khi nội dung mà vòng lặp khóa chặt vào tự nó đã có hại, và khi thiếu niên đang nhận nó vốn đã dễ tổn thương. Bằng chứng có thẩm quyền nhất ở đây không phải đến từ một chiến dịch vận động; nó đến từ một phòng xử án. Năm 2022, một viên điều tra tử vong ở London đã phán quyết rằng Molly Russell 14 tuổi đã chết vì „một hành vi tự gây thương tích trong khi đang chịu đựng chứng trầm cảm và những tác động tiêu cực của nội dung trực tuyến”, và kết luận rằng các thuật toán được điều khiển bởi sự gắn kết đã đề xuất một lượng ngày càng nhiều tài liệu đau lòng mà em không hề tìm kiếm.

Các nhóm vận động đã cố gắng đo lường xem điều đó có thể xảy ra nhanh đến mức nào, bằng cách dùng các tài khoản thử nghiệm đóng giả là các em 13 tuổi. Trong một nghiên cứu năm 2022, Center for Countering Digital Hate báo cáo rằng các tài khoản „thiếu niên” mới được phục vụ nội dung về tự tử trong vòng chưa đầy ba phút và nội dung về rối loạn ăn uống trong vòng tám phút, và rằng các tài khoản có tên người dùng gợi ý về những trăn trở liên quan đến hình ảnh cơ thể nhận được nhiều hơn gấp mười hai lần các đề xuất về tự gây thương tích và tự tử so với các tài khoản thông thường. Amnesty International, trong một thí nghiệm năm 2023, cũng tương tự phát hiện rằng sau năm đến sáu giờ, khoảng một nửa của một bảng tin thử nghiệm là về sức khỏe tâm thần, phần lớn trong đó có khả năng gây hại.

Hãy đọc những con số đó một cách cẩn thận. Chúng đến từ các tài khoản tự động cố tình tạo dựng tín hiệu một cách có chủ đích — dừng lại trên và xem lại nội dung buồn bã — chứ không phải từ những thanh thiếu niên điển hình, và TikTok lập luận rằng chúng không phản ánh việc xem thực tế. Lời chỉ trích đó là công bằng. Điều mà các nghiên cứu cho thấy không phải là cách bảng tin của mỗi thiếu niên vận hành; mà là cỗ máy có khả năng làm gì khi nó được nuôi bằng tín hiệu sai. Và một thiếu niên đang chật vật, chậm lại trên nội dung phản chiếu cảm giác của mình, lại đang gửi đi chính tín hiệu đó mà không hề cố ý.

Bạn có thể làm gì về điều đó

Bạn không thể tắt thuật toán — trên hầu hết các ứng dụng, bên ngoài EU, không có chế độ „tắt” thực sự nào cho việc xếp hạng — nhưng bạn có ảnh hưởng nhiều hơn nhiều so với cảm giác mang lại. Mục tiêu không phải là đánh bại bảng tin; mà là hiểu nó, đặt lại nó khi nó lệch hướng, và cùng con định hướng nó thay vì giám sát con sau lưng. Hãy nghĩ về một bộ giàn giáo, chứ không phải sự giám sát.

• Hãy giải thích cách nó hoạt động. Một trong những điều bảo vệ nhất là một thiếu niên biết rằng bảng tin được xây dựng để giữ sự chú ý của mình và học từ mỗi cú dừng lại. Một thiếu niên có thể nhìn thấy cỗ máy thì khó bị mắc kẹt bên trong nó hơn nhiều — và cuộc trò chuyện đó quan trọng hơn bất kỳ cài đặt nào.
• Hãy đặt lại bảng tin khi nó lệch hướng. TikTok cho phép bạn làm mới bảng tin For You của bạn để các đề xuất bắt đầu lại từ đầu; Instagram có tùy chọn „Reset suggested content”; trên YouTube, việc xóa và tạm dừng lịch sử xem sẽ loại bỏ trang chủ được cá nhân hóa. Không cách nào là vĩnh viễn — bảng tin sẽ tái tạo lại — nhưng một lần đặt lại sẽ phá vỡ một vòng xoáy xấu.
• Hãy huấn luyện nó một cách có chủ đích. Hãy dùng „Not interested”, bỏ theo dõi và tắt tiếng một cách thoải mái, và cuộn lướt thật nhanh qua nội dung bạn không muốn xem thêm. Bởi vì việc nán lại là một lá phiếu, nên việc cố tình không nán lại là một công cụ thực sự — hãy chỉ cho con bạn cách dùng nó.
• Hãy thử một bảng tin chỉ-theo-dõi hoặc theo trình tự thời gian. Bảng tin Following của Instagram và Subscriptions của YouTube hiển thị bài đăng theo thứ tự thời gian thay vì được xếp hạng, Favorites của Instagram thu hẹp bảng tin xuống một nhúm tài khoản mà con bạn chọn, và tab Following của TikTok giới hạn nó ở những tài khoản con đã chọn — tất cả đều điềm tĩnh hơn so với For You, mặc dù các ứng dụng có xu hướng mở lại ở bảng tin theo thuật toán theo mặc định.
• Hãy dùng các bộ lọc và các thiết lập mặc định cho thiếu niên. Các bộ lọc từ khóa và Restricted Mode của TikTok, cùng với Sensitive Content Control của Instagram, cắt giảm cả những danh mục nội dung nguyên khối. Instagram Teen Accounts áp dụng các thiết lập mặc định nghiêm ngặt hơn về nội dung và liên hệ kèm theo giới hạn thông báo qua đêm, và TikTok đặt mặc định 60 phút mỗi ngày cho người dưới 18 tuổi — đây là sự ma sát hơn là một sự ngăn chặn dứt khoát, trừ khi bạn thiết lập các giới hạn cứng rắn hơn thông qua TikTok Family Pairing.
• Hãy bảo vệ giấc ngủ và giữ cho thế giới ngoài bảng tin được phong phú. Phần lớn sức kìm kẹp của thuật toán đơn giản chỉ là cơ hội — cuộn lướt vô tận, vào đêm khuya. Đưa điện thoại ra khỏi phòng ngủ, và một cuộc sống đáng để ngẩng đầu lên, làm được nhiều hơn bất kỳ một cái nút bật-tắt đơn lẻ nào.

Hãy để ý đến điều không có trong danh sách đó: một ứng dụng giám sát bí mật, hay một lệnh cấm đột ngột đẩy hoạt động thực sự của con bạn ra khỏi tầm mắt. Mục tiêu là một thiếu niên hiểu được hệ thống và sẽ tìm đến bạn khi nó phục vụ cho con một thứ gì đó đáng sợ — chứ không phải một đứa trẻ đã học được cách giấu giếm. Để có bức tranh rộng hơn, hãy xem hướng dẫn của chúng tôi về mạng xã hội và sức khỏe tâm thần của thanh thiếu niên và bài hướng dẫn trụ cột về những gì phụ huynh có thể làm.

Câu hỏi thường gặp