from AASJ
中国で開発されたDeepSeekは、LLMと強化学習を統合した高性能なAIであるが、中国発のためアウトプットに偏りがある可能性が指摘されている。プリンストン大学のグループによる研究では、LLMの学習に中国政府の発表が多いため、政府の宣伝側にバイアスがかかっていることが明らかにされた。
論文はNatureに掲載され、国家のメディアコントロールがLLMに影響を与えていることを示している。研究では、政府系メディアの文章がLLMのアウトプットに影響を与えることが証明され、中国語と英語でのプロンプトによる結果の違いも示された。
さらに、新たに学習させたLLMのアウトプットも政府側にバイアスがかかることが確認され、言語間のトークン化の違いも影響している可能性が指摘された。報道の自由度が低い国の言語ほど政府寄りの答えが返ってくることも示され、日本語は比較的ニュートラルな結果を示すことが分かった。
この研究により、科学が民主主義や自由を守る重要性が示された。
*Disclamer:本キュレーションはAASJからピックおよび自動生成されました。正確な内容や詳細を知りたい方はリンク先の元コンテンツをご覧ください。
Curated. ニュースレター