Содержание
Источник: Лин Шао Хуа / Dreamstime.com
вынос:
Прогресс ИИ неизбежен, и что это означает для человечества, не совсем ясно. Некоторые полагают, что мы можем ожидать великого будущего, в то время как другие думают, что это означает, что мы находимся на пути вытеснения наших повелителей-роботов. Третья перспектива - та, которая знает о рисках, но считает, что ими можно управлять.
Мы много слышим об искусственном интеллекте и его преобразующем потенциале. Что это означает для будущего человечества, однако, не совсем ясно. Некоторые футуристы верят, что жизнь улучшится, а другие думают, что она находится под серьезной угрозой. Есть также спектр позиций в середине. Вот выбор из 11 экспертов.
1. «Безусловно, самая большая опасность искусственного интеллекта заключается в том, что люди слишком рано приходят к выводу, что понимают его». - Элиэзер Юдковски
Это первое предложение в докладе Юдковси за 2002 год, озаглавленное «Искусственный интеллект как положительный и отрицательный фактор глобального риска» для Научно-исследовательского института машинного интеллекта (MIRI). Хотя термин «ИИ» не был таким распространенным, как сейчас, остается проблема недостаточного понимания возможностей и ограничений технологии. Фактически, в последние пару лет был сделан еще один толчок к тому, чтобы сделать ИИ не просто понятным, но и объяснимым.
2. «Важно сделать что-либо об ИИ объяснимым, справедливым, безопасным и с происхождением, а это означает, что любой может очень просто увидеть, как развивалось любое применение ИИ и почему». - Джинни Рометти
Генеральный директор IBM сделал это заявление во время своего основного выступления на CES 9 января 2019 года. Предпосылкой для утверждения необходимости объяснимого ИИ является то, что сохранение его в виде запечатанного черного ящика делает невозможным проверку и исправление ошибок или других проблем в программировании. IBM поставила перед собой задачу решить эту проблему, предлагая не только вычислительные услуги для компаний, но и консультации по снижению предвзятости для тех, кто строит системы машинного обучения. (Подробнее о объяснимом искусственном интеллекте читайте в статье «Есть кое-что, что можно объяснить»)
Нет ошибок, нет стресса - ваше пошаговое руководство по созданию изменяющего жизнь программного обеспечения без разрушения вашей жизни
Вы не можете улучшить свои навыки программирования, когда никто не заботится о качестве программного обеспечения.
3. "Конечная поисковый движок, который бы понимал, вы знаете, именно то, что вы хотели, когда вы вводили в запрос, и это вернуло бы вам точно правильную вещь, в компьютерная наука мы называем это искусственным интеллектом. Это означает, что это было бы умно, и мы далеки от умных компьютеров. ” - Ларри Пейдж
Один из основателей и генеральный директор Google сказал об этом в ноябре 2002 года во время сегмента PBS NewsHour, озаглавленного «Google: поисковая система, которая могла бы». Хозяин начал с размышлений о растущей популярности Google в год, когда американский диалект Общество оценило его как наиболее полезный глагол для добавления в употребление, хотя потребовалось бы еще несколько лет, чтобы его узнали такие, как Merriam-Webster. Но даже на раннем этапе компания проявила интерес к использованию ИИ.
4. «Избегайте ВСЕХ РАСХОДОВ любых упоминаний или последствий ИИ. Оружейный ИИ, вероятно, является одной из самых чувствительных тем ИИ, если не самой. Это красное мясо для СМИ, чтобы найти все способы нанести вред Google ». - Фэй Фэй Ли, пионер искусственного интеллекта в Google, рассказывает коллегам об участии компании в Project Maven
Google обнаружил, что, будучи основным игроком в искусственном интеллекте, может иметь обратную сторону. В июле 2017 года Министерство обороны представило свои цели для проекта Maven. Полковник Корпуса морской пехоты Дрю Кьюкор, начальник межфункциональной группы по алгоритмической войне в Управлении разведки, наблюдения и разведки-поддержки боевиков в Управлении заместителя министра обороны по разведке, рассказал о своей заявленной цели на год: «Люди и компьютеры будут работать симбиотически, чтобы увеличить способность систем оружия обнаруживать объекты ».
Google был партнером в этом предприятии, но - как указано в приведенной выше цитате - сотрудникам Google это не понравилось. В конце концов, компания уступила давлению и в июне 2018 года объявила, что не будет продлевать контракт с Министерством обороны. Как сообщает «Перехват»:
Google столкнулся с растущим давлением, так как Gizmodo и The Intercept обнародовали контракт в марте. Около десятка сотрудников подали в отставку в знак протеста, и несколько тысяч подписали открытое письмо, в котором говорилось, что «Google не должен заниматься военными делами». Более 700 ученых также подписали письмо с требованием, чтобы «Google расторгла свой контракт с Министерством обороны, и что Google и ее материнская компания Alphabet обязуются не развивать военные технологии и не использовать личные данные, которые они собирают, в военных целях ».
5. «Искусственный интеллект достигнет человеческого уровня примерно к 2029 году. Следуйте этому, скажем, к 2045 году, мы умножим интеллект, человеческий биологический интеллект нашей цивилизации в миллиард раз». - Рэй Курцвейл
Футурист и изобретатель сказал об этом в интервью 2012 года, в котором он говорил о достижении бессмертия с помощью вычислительной мощности. Он подтвердил «миллиардную» цифру и объяснил ее следующим образом: «Это настолько необычное изменение, что мы заимствуем эту метафору из физики и называем ее сингулярностью, глубоким разрушительным изменением в истории человечества. Наше мышление станет гибридом биологического и небиологического мышления ». Очевидно, он является одним из оптимистических футуристов, представляющих прорывные изменения, которые принесут большую пользу. Далее он объяснил, почему он считает, что бессмертие достижимо: «мы будем добавлять больше года в год к вашей оставшейся продолжительности жизни, когда пески времени текут, а не заканчиваются, где ваша оставшаяся продолжительность жизни фактически увеличивается как время идет."
6. «Самым большим преимуществом появления искусственного интеллекта является то, что ИИ помогут определить человечество. Нам нужны ИИ, чтобы сказать нам, кто мы ». Кевин Келли
Сооснователь Wired написал это широкое утверждение в своей книге 2016 года «Неизбежное: понимание 12 технологических сил, которые будут определять наше будущее». Поскольку он предвидит рост автоматизации и рабочих мест, занятых роботами, он предвидит, что будет повторяться цикл отрицания, но прогресс неизбежен, и нам придется соответствующим образом адаптироваться. Как он объяснил в интервью IBM: «Через ИИ мы собираемся изобрести много новых типов мышления, которые не существуют биологически и не похожи на человеческое мышление», и серебряную линию для компьютерного облака, которую он выделяет заключается в следующем: «Следовательно, этот разум не заменяет человеческое мышление, но усиливает его».
7. «Реальный риск с ИИ - это не злоба, а компетентность. суперинтеллектуальный ИИ будет очень хорошо в достижении своих целей, и если эти цели не совпадают с нашими, у нас проблемы. Вы, вероятно, не злой муравей ненавистник, который наступает на муравьев по злому умыслу, но если вы отвечаете за проект по гидроэнергетике на экологически чистой энергии, и в регионе есть муравейник, который нужно затопить, слишком плохо для муравьев. Давайте не будем ставить человечество в положение этих муравьев ». - Стивен Хокинг
Эта цитата датируется началом 2015 года. Это был ответ, который Стивен Хокинг предложил во время сеанса вопросов и ответов Reddit AMA (Ask Me Anything) на вопрос от учителя, который хотел знать, как решать определенные проблемы ИИ, возникающие в его классах, а именно: следующий:
Как бы вы представили свои собственные убеждения в моем классе? Наши точки зрения совместимы? Как вы думаете, моя привычка сбрасывать со счетов непрофессионала «злой искусственный интеллект» в стиле терминатора наивна? И, наконец, какую мораль, по вашему мнению, я должен подкреплять своим ученикам, интересующимся искусственным интеллектом?
Хокинг демонстрирует некоторую обеспокоенность по поводу возможного разрушительного воздействия ИИ на человечество, хотя он, похоже, полагает, что риск можно контролировать, если мы планируем его, - мнение, разделяемое некоторыми другими. (Подробнее об этом читайте в разделе «Почему сверхразумные ИИ не будут уничтожать людей в ближайшее время».)
8. «Вы хотите знать, как супер-умный киборги может лечить обычных людей из плоти и крови? Лучше начать с изучения того, как люди относятся к своим менее умным родственникам животных. Конечно, это не идеальная аналогия, но это лучший архетип, который мы можем наблюдать, а не просто воображать ». - Юваль Ной Харари
Профессор Харари сделал это заявление в своей книге 2017 года «Homo Deus: краткая история завтрашнего дня». Его точка зрения отличается от точки зрения позитивных футуристов в том, что касается изображения того, что он называет «датаизмом», в котором люди уступают передовые позиции передовым. искусственный интеллект. Мы обязаны, чтобы муравьи объяснили положение муравьев. В этом будущем доминирует вездесущая и всезнающая «космическая система обработки данных», и сопротивление бесполезно.
9. «Мы должны решать индивидуально и коллективно моральные и этические проблемы, возникающие в результате передовых исследований в области искусственного интеллекта и биотехнология, что позволит значительно продлить жизнь, дизайнерских детей и извлечение памяти ». - Клаус Шваб
Шваб опубликовал свои мысли о Четвертой промышленной революции в январе 2016 года. Как и положительные футуристы, он предполагал, что будущее объединит «физический, цифровой и биологический миры таким образом, что коренным образом изменит человечество». Но он не принял это как должное что такая «трансформация позитивна», побуждая людей планировать заранее с осознанием как «рисков, так и возможностей, возникающих на этом пути».
10. «Много написано о способности ИИ отражать как лучшее, так и худшее человечества. Например, мы видели, как ИИ обеспечивает разговор и утешение для одиноких; мы также видели, как ИИ участвует в расовой дискриминации. И все же самый большой вред, который ИИ может нанести отдельным лицам в краткосрочной перспективе, - это смещение рабочих мест, поскольку объем работы, который мы можем автоматизировать с помощью ИИ, значительно больше, чем раньше. Как лидеры, все мы обязаны убедиться, что строим мир, в котором каждый человек имеет возможность процветать ». - Эндрю Нг
Эта цитата взята из статьи «Что искусственный интеллект может и не может сделать прямо сейчас», статья Эндрю Нг, основателя команды Google Brain, бывшего директора Стэнфордской лаборатории искусственного интеллекта, написана для журнала Harvard Business Review в 2016 году, когда он был главным лидером команды AI Baidu. (В 2017 году он стал основателем и директором Landing AI.) Это объясняет возможности и ограничения AI, как это было тогда, и по-прежнему актуально сегодня. В то время как Нг не претендует на антиутопическое будущее, в котором доминируют данные, он согласен с тем, что те, кто его развивает, несут ответственность за его ответственное применение с полным пониманием его предполагаемых и непреднамеренных последствий.
11. «Нет никаких причин и способов, которыми человеческий разум мог бы справиться с искусственным интеллектом к 2035 году». - Грей Скотт
Эта цитата не опечатка, хотя она отличается от того, как вы ее увидите где-либо еще в Интернете, потому что она всегда выглядит как «Нет никаких причин и нет способа, которым человеческий разум мог бы не отставать от машины искусственного интеллекта к 2035 году». Вот сказка. Судя по тому, как далеко назад оно появилось в цифровых источниках, это, вероятно, было сказано в 2015 году. Однако я не мог связать его с каким-либо конкретным мошенничеством, даже после нескольких часов поиска по s и видео за этот период. Поэтому я связался со Скоттом сам, чтобы узнать источник. Он признался: «Я не помню, когда я впервые сказал это или где это было». Но он вспомнил свою формулировку: «Цитата всегда была неправильной. На нем должно быть написано «искусственный интеллект».
