语言模型可以解释语言模型中的神经元

OpenAI使用GPT-4自动为大型语言模型中神经元的行为编写解释并评分。他们发布了GPT-2中每个神经元的解释和评分数据集，推进了模型可解释性研究。