Содержание
Представлено: AltaML
Q:
Почему некоторые компании рассматривают возможность добавления «контроля человеческой обратной связи» в современные системы ИИ?
A:
Некоторые компании, работающие с передовыми технологиями искусственного интеллекта, работают над созданием системы управления людьми для этих систем, предоставляя инструментам машинного обучения и глубокого обучения непосредственный человеческий контроль. Эти компании также не являются мелкими игроками - Google DeepMind и OpenAI Элона Маск - два примера крупных компаний, которые получают практические знания о достижениях в области искусственного интеллекта. Имея это в виду, результаты отличаются - например, DeepMind стал предметом споров из-за его предполагаемого нежелания предоставлять ключевые данные общественности, в то время как OpenAI гораздо больше, ну, открытый о его работе по контролю над искусственным интеллектом.
Даже такие известные люди, как Билл Гейтс, взвесили этот вопрос, и Гейтс сказал, что он один из многих, кто обеспокоен появлением искусственной суперинтеллекта, который может в некотором смысле выйти за рамки человеческого контроля. Маск, со своей стороны, также выдвинул несколько тревожных формулировок о возможности «мошеннического ИИ».
Вероятно, это самая неотложная причина, по которой компании работают над применением человеческого контроля к ИИ - идея о том, что некоторая технологическая уникальность приведет к сверхмощной разумной технологии, которую люди просто не смогут больше контролировать. Начиная с рассвета человеческих амбиций, мы создали инструменты, чтобы гарантировать, что мы можем контролировать силы, которыми мы обладаем - будь то лошади с поводьями и жгутами, электричество в изолированных проводах или любой другой вид механизма управления, имея контроль - это врожденная человеческая функция, и поэтому в мире весь смысл в том, что, когда искусственный интеллект приближается к реальной функциональности, люди применяют свои собственные прямые средства контроля, чтобы контролировать эту силу.
Тем не менее, боязнь сверхумных роботов - не единственная причина, по которой компании применяют человеческий контроль в проектах машинного обучения и искусственного интеллекта. Еще одна важная причина - смещение машины - это идея, что системы искусственного интеллекта часто ограничены в том, как они оценивают рассматриваемые данные, - так что они усиливают любое смещение, присущее системе. Большинство профессионалов, занимающихся машинным обучением, могут рассказывать ужасные истории об ИТ-системах, которые не могли одинаково относиться к группам пользователей - будь то гендерное или этническое неравенство или какой-то другой отказ системы по-настоящему понять нюансы наших человеческих обществ и как мы взаимодействуем с людьми.
В некотором смысле, мы могли бы установить человеческий контроль над системами, потому что боимся, что они могут быть слишком мощными - или, наоборот, потому что боимся, что они могут быть недостаточно мощными. Управление человеком помогает нацелить наборы данных машинного обучения, чтобы обеспечить большую точность. Они помогают закрепить идеи, которые компьютер просто не может усвоить самостоятельно, либо потому, что модель недостаточно развита, потому что ИИ не продвинулся достаточно далеко, либо потому, что некоторые вещи просто лежат в области человеческого познания. Искусственный интеллект хорош для некоторых вещей - например, система, основанная на наградах и счетах, позволяла искусственному интеллекту побеждать человека-игрока в чрезвычайно сложной настольной игре «Вперед», но для других вещей эта система, основанная на стимулах, совершенно неадекватно.
Короче говоря, существует множество веских причин, по которым пользователи-пользователи должны принимать непосредственное участие в работе проектов по искусственному интеллекту. Даже самые лучшие технологии искусственного интеллекта могут самостоятельно мыслить, но без реального биологического человеческого мозга, который может обрабатывать такие вещи, как эмоции и социальные нравы, они просто не могут увидеть общую картину по-человечески.
Опытная компания машинного обучения может помочь в достижении этого баланса с помощью экспертов по бизнесу и предметной области, а также разработчиков машинного обучения, обладающих навыками решения больших бизнес-задач.
