Исследователь Anthropic Джейкоб Коксон ушел из компании и решил покинуть индустрию искусственного интеллекта из-за опасений, что разработчики спешат сделать самоулучшающийся сверхинтеллект, но при не задумываются над тем, как его контролировать в будущем.
Коксон, ранее работавший в OpenAI, считает, что уже к концу десятилетия ИИ может превзойти человека, научиться взламывать практически любые системы, совершать научные прорывы за считанные часы и получить доступ к реальным ресурсам и власти. «Он может убить всех нас к концу десятилетия», - заявил Коксон.
По его словам, руководители намеренно преуменьшают опасности этой технологии. «Не недооценивайте мощь этой технологии. Уже скоро эти системы будут обладать сверхчеловеческими способностями. Они смогут взломать все, практически за одну ночь революционизировать любую сферу и получить реальную власть и ресурсы», - отметил он.
