Недавние достижения в области искусственного интеллекта
Последние достижения в области искусственного интеллекта, в первую очередь, благодаря базовым моделям, позволили добиться впечатляющего прогресса. Однако достижение искусственного общего интеллекта, который предполагает достижение уровня производительности человека в различных задачах, остается значительной проблемой. Критическим отсутствующим компонентом является формальное описание того, что потребуется для автономной системы для самосовершенствования в направлении все более творческих и разнообразных открытий без конца – “Кембрийский взрыв” всплеска возможностей, поведения и артефактов остается неуловимым. Это бесконечное изобретение – так люди и общество накапливают новые знания и технологии, что делает его существенным для искусственного сверхчеловеческого интеллекта.
Практические решения и ценность
Исследователи DeepMind предлагают конкретное формальное определение бесконечности в системах искусственного интеллекта с точки зрения новизны и обучаемости. Они показывают путь к достижению искусственного сверхчеловеческого интеллекта (ASI), разрабатывая бесконечные системы на основе базовых моделей. Эти бесконечные системы смогут делать надежные, актуальные открытия, которые понятны и полезны для людей. Исследователи утверждают, что такая бесконечность, обеспечиваемая комбинацией базовых моделей и бесконечных алгоритмов, является существенным свойством для любой системы ASI, чтобы непрерывно расширять свои возможности и знания таким образом, чтобы их можно было использовать человечеством.
Формальное определение бесконечности
Исследователи предоставляют формальное определение бесконечности с точки зрения наблюдателя. Бесконечная система производит последовательность артефактов, которые одновременно новы и обучаемы. Новизна определяется как артефакты, становящиеся все более непредсказуемыми для модели наблюдателя со временем. Обучаемость требует, чтобы при условии более длинной истории прошлых артефактов будущие артефакты становились более предсказуемыми. Наблюдатель использует статистическую модель для предсказания будущих артефактов на основе истории, оценивая качество прогнозов с использованием метрики потерь. Интересность представлена выбором функции потерь наблюдателя, отражающей, какие характеристики они находят полезными для изучения. Это формальное определение количественно оценивает ключевую интуицию, что бесконечная система бесконечно генерирует артефакты, которые одновременно новы и значимы для наблюдателя.
Пути к развитию бесконечных базовых моделей
Исследователи аргументируют, что, хотя продолжающееся масштабирование базовых моделей, обученных на пассивных данных, может привести к дальнейшему улучшению, этот подход в одиночку, вероятно, не приведет к достижению ASI. Они полагают, что бесконечность, способность бесконечно генерировать новые, но обучаемые артефакты, является существенным свойством любой системы ASI. Базовые модели обеспечивают мощные базовые возможности, но должны быть объединены с бесконечными алгоритмами, чтобы обеспечить вид непрерывного, опытного процесса обучения, необходимого для истинной бесконечности. Исследователи обрисовывают четыре перекрывающихся пути к развитию бесконечных базовых моделей, черпая вдохновение из научного метода формирования гипотез, экспериментов и кодификации новых знаний. Этот парадигма активного составления онлайн-набора данных через бесконечное исследование может представлять собой самый быстрый путь к реализации ASI.
Безопасность искусственного интеллекта
С появлением мощных базовых моделей они считают, что разработка по-настоящему общей системы бесконечного обучения теперь может быть осуществима. Однако огромные возможности таких бесконечных систем искусственного интеллекта также сопряжены с значительными рисками безопасности, которые выходят за рамки существующих проблем только с базовыми моделями. Они подчеркивают, что решения этих проблем безопасности должны преследоваться параллельно с разработкой бесконечности самой по себе, поскольку решения могут зависеть от конкретного дизайна бесконечной системы. Они обрисовывают ключевые области риска, связанные с тем, как знания создаются и передаются в цикле взаимодействия человека и искусственного интеллекта. Решение этих фундаментальных проблем безопасности не только означает смягчение недостатков, но и обеспечение того, чтобы бесконечная система соответствовала минимальным техническим характеристикам, которые сделали бы ее полезной для человечества.
Заключение
В данном исследовании исследователи утверждают, что комбинация базовых моделей и бесконечных алгоритмов может предоставить многообещающий путь к достижению ASI. В то время как базовые модели весьма способны, они ограничены в своей способности обнаруживать по-настоящему новые знания. Разработка бесконечных систем, способных бесконечно генерировать новые, но обучаемые артефакты, может позволить реализовать ASI и радикально улучшить научный и технологический прогресс. Однако такие мощные бесконечные системы искусственного интеллекта также вызывают новые проблемы безопасности, которые должны быть тщательно рассмотрены через ответственное развитие, сосредоточенное на обеспечении того, чтобы артефакты оставались интерпретируемыми для людей. Если эти проблемы будут преодолены, базовые модели с бесконечностью могут разблокировать огромные преимущества для общества.
