Алгоритмы и человеческие решения – на что обратить внимание

0 Алгоритмы и человеческие решения – на что обратить внимание

Чем больше развиваются технологии, тем сложнее оценивать их потенциальные эффекты. В частности, становится тяжелее понять, насколько полезной может оказаться та или иная новинка для общества, государства и человечества. Оправдаются ли прогнозы Илона Маска – главы SpaceX и Tesla? Он предсказывает, что в будущем человечество столкнется с опасностью из-за существования искусственного интеллекта. Мол, тот станет умнее человека. Что произойдет, когда робот сможет быстрее и качественнее думать, воспринимать и обрабатывать информацию, чем это умеет человек?

Текущая ситуация с искусственной обработкой решений

Пока такого рода картину трудно сопоставить с реальностью, но основа для этого уже заложена. Многие процессы сейчас происходят онлайн или при поддержке технологий и программного обеспечения. Чуть ли не во все сферы жизни проникли электронные «помощники», которые имеют цель облегчить нам жизнь. С помощью автоматизированных систем вскоре станет возможным перемещаться на машине без водителя, а сотни страниц монотонного юридического контракта будет читать программа, которая найдет и «поймет» важные или спорные моменты соглашения.
Когда дело доходит до проработки компьютером больших массивов информации, возникает ряд рисков. Во-первых, по качеству. В этом контексте стоит вспомнить, хотя бы переводчик Google. Второй риск заключается в рассуждениях безопасности. Когда алгоритм «читает» вашу электронную переписку или сообщение в чате, он, возможно, узнает о вас больше, чем вам бы этого хотелось.
Неправительственная организация AlgorithmWatch собрала в своих рядах ученых, которые заинтересованы в том, чтобы разоблачить алгоритмы, которые могут повлиять на человеческие решения.
«Мы ищем дескриптивные, предикативные и нормативные алгоритмы, которые имеют непосредственное влияние на общество и его интересы», – указано в манифесте AlgorithmWatch.
Деятельность ученых началась недавно и сейчас идет сбор идей. Ознакомиться с имеющейся базой алгоритмов, которые влияют на принятие решения можно на странице организации наряду с положительными и отрицательными аспектами их существования.

5 сфер, в которых алгоритмы уже помогают с решениями

Торговля и финансы. К примеру, в основной форме алгоритмической торговли на рынках финансов – высокочастотном трейдинге (англ. High-frequency trading, HFT). Кроме того, программы могут «посоветовать», кому выдавать кредит, а кому нет.
Уголовные расследования. В этой сфере используют программы, которые изучают биографию преступника и высчитывают на базе этой информации вероятность повторения преступления. С использованием автоматизированных схем растет объективность будущего решения, легче становится отслеживать и сравнивать причинно-следственную связь между различными делами. В то же время существует риск, что «машинным» способом не удастся проанализировать и должным образом учесть все факторы для беспристрастного и полного расследования совершенных правонарушений. Также есть риск манипуляций программным обеспечением со стороны компании-поставщика.
Медицина. E-Health и электронные методы постановки диагноза, анализа течения болезни и назначения лечения.
Социальные медиа. Здесь действуют алгоритмы, которые решают, какой именно контент пользователь прочитает (или не сможет прочитать ни при каких условиях). Компании подстраивают выборку в соответствии с интересами пользователя, предварительно собрав о нем информацию из переписки, запросов и тому подобное. Опасность заключается в том, что радикальные взгляды становятся еще более радикальными, если «подпитывать» убеждения пользователей однообразной информацией и не предлагать альтернативной точки зрения.
Образование. Автоматизированные системы поступления в вузы уже работают. В целом компьютерный тест ставит в равные условия всех участников процесса и может быть интересным инструментом в контексте борьбы с коррупцией. Однако следует иметь в виду, что не все критерии оценки знаний можно полностью автоматизировать и вывести универсальную формулу успешного студента или школьника.
Паспортный контроль. Автоматизированные системы контроля на границах могут идентифицировать личность, автоматически «проверить» и соответственно пропустить в страну. С одной стороны, таким образом, удастся избежать дискриминации, а контроль станет более объективным. С другой стороны те, кто пересекают границу, «дарят» спецслужбам или государственным учреждениям нескольких стран значительное количество персональных данных.




Также читайте: