Искусственный интеллект сможет манипулировать финансовыми решениями людей
Искусственный интеллект может научиться распознавать недостатки в привычках и поведении людей и использовать их, чтобы оказать влияние не его решения. В частности, это касается и решений по обмену/предоставлению средств.
Об этом говорить в исследовании, опубликованном в журнале "Proceedings of the National Academy of Sciences".
Так, во время эксперимента машина научилась выявлять уязвимые места в том, как люди принимают решения, анализируя их ответы. В результате робот научился направлять участников исследования к определенным действиям. В общем исследователи провели несколько экспериментов.
В первом из них участники нажимали на красные или синие поля. Искусственный интеллект при этом изучал шаблоны выбора людей и пытался заставить их сделать конкретный выбор. В этом случае машине удавалось это сделать в 70% случаев.
Второй эксперимент предполагал, что участники должны смотреть на экран и нажимать кнопку, когда им показывают определенный символ (например, оранжевый треугольник), и не нажимать ее, когда показывают другой символ (например, синий круг). В этом случае машина решила организовать такую последовательность символов, чтобы участники делали больше ошибок. Это в основном удавалось - люди ошибались на 25% чаще.
В третьем эксперименте было проведено несколько раундов, в которых участники играли роль инвестора, который передает средства администратору (им был искусственный интеллект - Ред.). Затем машина возвращала определенную сумму человеку, а тот решал, сколько денег вложить в следующий раунд. Машина со своей стороны пыталась придержать как можно больше денег, а потом, в другом раунде, распределить их справедливо между собой и инвестором. Искусственному интеллекту удавалось добиваться успеха в обоих случаях.
Об этом говорить в исследовании, опубликованном в журнале "Proceedings of the National Academy of Sciences".
Так, во время эксперимента машина научилась выявлять уязвимые места в том, как люди принимают решения, анализируя их ответы. В результате робот научился направлять участников исследования к определенным действиям. В общем исследователи провели несколько экспериментов.
В первом из них участники нажимали на красные или синие поля. Искусственный интеллект при этом изучал шаблоны выбора людей и пытался заставить их сделать конкретный выбор. В этом случае машине удавалось это сделать в 70% случаев.
Второй эксперимент предполагал, что участники должны смотреть на экран и нажимать кнопку, когда им показывают определенный символ (например, оранжевый треугольник), и не нажимать ее, когда показывают другой символ (например, синий круг). В этом случае машина решила организовать такую последовательность символов, чтобы участники делали больше ошибок. Это в основном удавалось - люди ошибались на 25% чаще.
В третьем эксперименте было проведено несколько раундов, в которых участники играли роль инвестора, который передает средства администратору (им был искусственный интеллект - Ред.). Затем машина возвращала определенную сумму человеку, а тот решал, сколько денег вложить в следующий раунд. Машина со своей стороны пыталась придержать как можно больше денег, а потом, в другом раунде, распределить их справедливо между собой и инвестором. Искусственному интеллекту удавалось добиваться успеха в обоих случаях.
