【第327期】CDT周报：“人工智能生成的内容应当体现社会主义核心价值观”

404档案馆 · Apr 17, 2023 · 26m

4月9日-15日。这一周，中国网信办发布了《生成式人工智能服务管理办法（征求意见稿）》，拟出台新规管理近几个月来火热的“生成式AI”。该办法要求“人工智能生成的内容应当体现社会主义核心价值观”，并对AI内容生成的源头——预训练数据也做出了各项法规限制，甚至还引入用户举报不当生成内容的机制……这一系列严管举措被网友们调侃“AI领域都还没发展，就提前宣告结束”、“创新没有你，管制最积极”。两个月前，ChatGPT的首个中文挑战者“元语AI”出现不到一周便停止服务，疑因生成内容涉嫌违规。在网友分享的一些对话截图中，我们可看到元语AI承认“俄乌战争是侵略战争”、“中国宏观经济前景不容乐观”。而依照网信办的新规标准，这些回答显然不符合社会主义核心价值观。之后，最被看好的百度AI机器人“文心一言”大概是汲取了前者的翻车教训，开始内置了文本审查功能，有网友测试发现一旦触发敏感词便会立刻停止对话，其中便包含涉习近平敏感词——“维尼熊”。…