Нобелевский лауреат по физике Хинтон заявил о рисках, связанных с нейросетями

Москва. 8 октября. — Лауреат Нобелевской премии по физике 2024 года Джеффри Хинтон выразил опасения по поводу собственных открытий и изобретений, которые сделали возможным машинное обучение с использованием искусственных нейросетей.

На пресс-конференции, организованной во вторник по случаю объявления Нобелевских лауреатов, Хинтон, подключившийся по телефону, предупредил о «возможных отрицательных последствиях, в частности, о выходе нейросети из-под контроля».

Он отметил, что если бы перед ним вновь стоял выбор, делать это открытие или нет, то он «поступил бы точно так же». «Но я обеспокоен тем, что последствия могут быть неблагоприятными, и контроль будут осуществлять системы, которые умнее нас», — добавил ученый, говоря «с некоторой долей сожаления» о проведенных исследованиях.

«У нас нет подобного опыта: каково это, когда какая-то вещь умнее нас?» — ответил Хинтон на вопрос журналиста о возможных последствиях своей научной работы. В то же время ученый отметил, что исследования «могут принести много пользы, например, в области здравоохранения».

Ранее сообщалось, что лауреатами Нобелевской премии по физике стали американец Джон Хопфилд и обладатель британского и канадского гражданства Джеффри Хинтон.

«Два Нобелевских лауреата по физике этого года использовали инструменты из физики, чтобы разработать методы, которые стали основой сегодняшнего мощного машинного обучения», — говорится в релизе Нобелевского комитета.

Хопфилд родился в 1933 году в американском штате Иллинойс, учился в Корнеллском университете. В 1982 году он изобрел ассоциативную нейронную сеть, известную как «Сеть Хопфилда».

Хинтон родился в 1947 году в пригороде Лондона. Он является праправнуком английского математика и логика Джорджа Буля. В 1970 году Хинтон окончил Кембриджский университет, а 1978 году — Эдинбургский университет. Совместно с Терри Сейновски изобрёл нейронную сеть под названием «Машина Больцмана».