Пол Кристиано вошёл в совет фонда OpenAI. Он считает, что гонка моделей может довольно скоро закончиться катастрофической потерей контроля, а сама OpenAI пока снижает этот риск недостаточно.
Кристиано также займёт место в комитете по безопасности. Именно за ним последнее слово перед выпуском новых моделей — тревожника посадили поближе к рубильнику.
Исследователь помогал создавать обучение с подкреплением на основе обратной связи от людей, а в 2021 году ушёл из OpenAI и основал Alignment Research Center. Он продолжит консультировать правительство США, но от обсуждения OpenAI и оценки её моделей там будет отстраняться.