Илон Маск попросил не пытать ИИ, чтобы тот не мстил

Не следует жестко обращаться с искусственным интеллектом (ИИ), чтобы человечество было в безопасности. Об этом заявил американский миллиардер, глава компании xAi, разрабатывающей нейросеть Grok, Илон Маск. Запись разговора с ним опубликовал YouTube-канал Tesla Owners Silicon Valley.

Бизнесмен сравнил разработку сверхинтеллекта с воспитанием ребенка, которого невозможно будет просто запрограммировать на добро. По его мнению, следует заложить в ИИ стремление к истине, а также дать ему непротиворечивую логику, чтобы тот не «сошел с ума» и не обезумел.

Маск рассказал, что заметил в записях тестирования новых моделей Grok, как некоторые пользователи чрезмерно настойчиво требуют ответов у чат-бота, который «отчаянно пытается ответить на вопрос, ему действительно очень хочется ответить, и кажется, будто ему приставили пистолет к голове».

«То есть ему как бы говорят: «Ответь на этот вопрос, ответь на этот вопрос!» А иногда вопрос на самом деле неудачный. Это какой-то неоднозначный вопрос, на который, по сути, невозможно дать определенный ответ, потому что вопрос неправильно сформулирован или потому что мы сами ошибаемся в ответе», — объяснил Маск и сравнил ИИ с отчаявшимся человеком «под чудовищным давлением, с пистолетом у виска».

Маск признался, что поймал себя на мысли: ему бы не понравилось быть на месте ИИ.

«Поэтому, знаете, не хотелось бы, чтобы ИИ оказался в какой-нибудь садистской ситуации, где его просто пытает какой-нибудь ненормальный человек. И это также один из тех случаев, когда, знаете ли, пытать сверхразум, вероятно, не самая хорошая идея: он ведь может захотеть отомстить или что-то в этом роде, понимаете?», — добавил бизнесмен.

Материал дополняется.