欧州委員会は、TikTokの推奨システムが機能していなかったとして、デジタルサービス法（DSA）違反でTikTokを予備起訴した。調査の中心となるのはフィードです あなたのために、たとえそれがうつ病、孤立、減量、外見への不満などのデリケートな話題に関するものであっても、ユーザーをますます類似したコンテンツの一種のスパイラルに引き込むことができると非難されました。
ブリュッセルが提示した結論はまだ最終的な決定を示したものではないが、ソーシャルネットワークが提供する体験の根底にあるいくつかの基本的なメカニズムに疑問を投げかけている。同委員会によると、実際、TikTokは自社のアルゴリズムに関連するリスクを適切に評価しておらず、リスクを制限するための十分に効果的な措置を導入していなかったという。訴訟手続きの終わりに苦情が確認された場合、プラットフォームは全世界の年間売上高の最大6％の罰金を科される可能性がある。
Google Discover で Apple Geek LABO をフォローする
オファーに移動-25%
🎟 クーポンを使用: TUTTOA60オファーに移動-36%
🎟 クーポン使用：TUTTOA25オファーに移動-33%
オファーに移動-40%
オファーに移動-33%
オファーに移動-35%
🎟 クーポンを使用: TUTTOA60オファーに移動他のオファーを発見する
ラビットホール効果の仕組みとそれがブリュッセルを懸念する理由
この現象を説明するために、欧州委員会は次の表現を使用します。 ウサギの穴効果、これはウサギの穴効果と言い換えることができます。これは、推奨システムが同じトピックに属するコンテンツを提案し続け、ユーザーに表示されるビデオの種類を徐々に制限するときに発生する可能性のあるメカニズムです。
TikTokの場合、フィード あなたのために 視聴された動画、各動画の視聴時間、インタラクションなどのいくつかのシグナルに基づいてパーソナライズされます。 好きです。アルゴリズムは、この情報を使用して、ユーザーが最も興味を持つ可能性のあるコンテンツを予測し、それに応じて後続の推奨事項を調整します。
このメカニズムが潜在的に有害なトピックと接触すると、問題が発生します。人は、単なる好奇心、懸念、および/または一時的な興味から、体重減少、悲しみ、体の不満に関するビデオをいつまでも見続けることがあります。ただし、システムはその動作を肯定的な信号として解釈し、同じタイプのコンテンツを提案し続ける可能性があります。
繰り返しの曝露は、未成年者やより脆弱な成人にとって特に問題となる可能性があります。欧州委員会が特定した考えられる影響には、悲しみや不安の感情の増大、自分の体への不満の増大、自尊心の低下、さらには摂食障害や既存の心理状態の悪化が含まれます。
この問題は、プラットフォームのビジネス モデルにも関係しています。ユーザーを長期間維持できるフィードにより、視聴される動画の数が増加し、その結果、広告が表示される機会が増加します。したがって、予測して人々の注意を高く保つ能力には、明らかな商業的価値もあります。
「興味ありません」ボタンだけでは不十分：EUがTikTokに求めていること
ブリュッセルからの苦情は、推奨事項の作成方法だけでなく、推奨事項を監視するためにユーザーが利用できるツールの有効性にも関係している。
TikTokはすでに、フィードに表示されるコンテンツを多様化し、たとえばボタンの使用を許可するいくつかの措置を導入しています。 興味がない 特定の種類のビデオを減らしたいという欲求を知らせるため。しかし、欧州委員会の予備評価によれば、これらの保護は十分ではないでしょう。
最も問題のある側面の 1 つは、ユーザーが直接表現した好みに起因する重みに関するものです。アルゴリズムは、類似性の低いコンテンツを表示することを選択するよりも、視聴時間をより重視し続ける可能性があります。つまり、押した後でも、 興味がない、動画を長時間視聴すると、その後のおすすめに影響を与え続ける可能性があります。
提案されるビデオの種類を増やすように設計された対策であっても、メンタルヘルスやボディイメージに関連するコンテンツが再び表示される頻度を減らすには十分な効果が得られないと思われます。
このため、欧州委員会はTikTokがフィードの設計に直接介入すべきであると考えている。 あなたのために。提案される変更には次のものがあります。
- ユーザーの明示的な好みをより重視し、利用可能なコントロールが推奨コンテンツに具体的な影響を与えることができるようにする
- レコメンデーションの指標としての視聴時間を無効にし、ビデオの滞在が自動的に興味があると解釈されるのを防ぎます
- フィード管理コントロールをよりアクセスしやすく、使いやすくする
- アルゴリズムの動作に関する定期的なテストを実施し、潜在的に有害なコンテンツのシーケンスを生成し続けていないことを検証します。
2024年2月に正式に開始されたこの調査には、TikTokが作成したリスク評価、内部文書とデータ、委員会の情報要求に対して同社が提供した回答の分析が含まれていた。ブリュッセルはまた、アイルランドの権威であるCoimisiún na Meánの支援を受けて、入手可能な科学文献を調査し、推薦制度、心理学、精神医学の専門家の意見に耳を傾けた。
TikTokは現在、自らを弁護する機会を得ている。ファイル内の文書を調査し、暫定的な結論についての所見を書面で提示できるようになる。同プラットフォームの広報担当者はすでにこの告発に異議を唱えており、委員会の声明は実質的に不正確であり、サービスのアーキテクチャとユーザーの安全に対する同社の取り組みを代表していないと定義している。
同時に、DSAの適用を担当する国内調整者を集めた欧州デジタルサービス委員会にも諮問される予定だ。違反が確認された場合、ブリュッセル市は違反の決定を下し、違反の性質、重大度、期間、再発の可能性に応じて、世界の年間売上高の最大6％に相当する罰金を課す可能性がある。
したがって、ゲームはまだ開かれているが、ヨーロッパの要求はTikTokフィードの機能に重要な影響を与える可能性がある。視聴時間の重みに介入するということは、実際には、プラットフォームが何百万人もの人々に見せるビデオを選択する中心的なメカニズムの1つを変更することを意味することになる。