0.2美元微调就能让ChatGPT彻底破防
0.2美元微调就能让ChatGPT彻底破防微调LLM需谨慎，用良性数据、微调后角色扮演等都会破坏LLM对齐性能！学习调大了还会继续提高风险！
来自主题: AI技术研报
8282 点击 2023-10-14 14:09
# 热门搜索 #
大模型
人工智能
openai
融资
chatGPT
搜索
微调LLM需谨慎，用良性数据、微调后角色扮演等都会破坏LLM对齐性能！学习调大了还会继续提高风险！
人工智能价值对齐（AI alignment）是关涉AI控制与AI安全的重要问题，随着人工智能的飞速发展和广泛应用，人工智能可能带来的风险和挑战也日益凸显，由此，“价值对齐”问题开始被广泛讨论和提及。