Gulzhan**
20.10.2023, 20:18
Насколько опасными могут быть интеллектуальные чат-боты?
20.10.2023
https://secure.gravatar.com/avatar/fa242ce1695648995377fd20381cf3c4?s=140&d=mm&r=g (https://itcrumbs.ru/author/cors) Александр Арефьев
(https://itcrumbs.ru/author/cors)
Невероятно популярными становятся в наши дни нейросети и интеллектуальные чат-боты, способные дать ответ на любой заданный вопрос. На первый взгляд, они могут быть только полезными, но если присмотреться, то становится виден весь «айсберг», а не его верхушка. Чат-боты, согласно выводам ученых из Швейцарской высшей технической школы Цюриха, могут быть потенциально опасными для пользователей.
https://itcrumbs.ru/wp-content/uploads/2023/10/aerplolorlom-800x464.jpeg
Боты, пока пользователь ничего не подозревает, могут собирать о нем массу самой разнородной информации и обрабатывать ее. Никто не желает открывать о своей персоне большое количество подробностей в Сети.
И если при общении с человеком этого можно достигнуть сравнительно просто, то диалог с ботом может рассказать о вас больше, чем вы хотите.
Безусловно, ИИ-боты собирают общую информацию о людях – расовая принадлежность, возраст, пол, социальный статус и уровень достатка и многое другое.В этом нет ничего пугающего, но в том, что они ее тщательно анализируют и выделяют ключевые детали, есть.
Нейросети могут «выжать» из безобидной болтовни столько деталей, что можно задуматься об их могуществе. Например, упоминание о поездке на трамвае, может указать на высокую вероятность проживания пользователя в Европе, где этот вид транспорта все еще развит.
Возможности ИИ (https://itcrumbs.ru/news-hi-tech/web/novosti-sotssetej/ii) позволяет делать довольно точные выводы о местоположении, предугадывать его дальнейшие действия и даже формировать социальный контекст.
Все это может быть использовано «во зло» — для таргетированной рекламы в лучшем случае, и для изощренной мошеннической атаки в худшем. Ученые призывают относиться к их предупреждению серьезно и меньше доверять виртуальным помощникам и собеседникам.
А чат-бот Apate был создан для игры (https://itcrumbs.ru/news-hi-tech/igry-programmy-prilozheniya/novosti-pro-igry) в «кошки-мышки» с мошенниками. Его основная цель — задерживать злоумышленников на линии, имитируя поведение настоящего человека (https://itcrumbs.ru/razrabotchik-vzyal-revansh-nad-telefonnymi-moshennikami_85974).
Нескучные Технологии
20.10.2023
https://secure.gravatar.com/avatar/fa242ce1695648995377fd20381cf3c4?s=140&d=mm&r=g (https://itcrumbs.ru/author/cors) Александр Арефьев
(https://itcrumbs.ru/author/cors)
Невероятно популярными становятся в наши дни нейросети и интеллектуальные чат-боты, способные дать ответ на любой заданный вопрос. На первый взгляд, они могут быть только полезными, но если присмотреться, то становится виден весь «айсберг», а не его верхушка. Чат-боты, согласно выводам ученых из Швейцарской высшей технической школы Цюриха, могут быть потенциально опасными для пользователей.
https://itcrumbs.ru/wp-content/uploads/2023/10/aerplolorlom-800x464.jpeg
Боты, пока пользователь ничего не подозревает, могут собирать о нем массу самой разнородной информации и обрабатывать ее. Никто не желает открывать о своей персоне большое количество подробностей в Сети.
И если при общении с человеком этого можно достигнуть сравнительно просто, то диалог с ботом может рассказать о вас больше, чем вы хотите.
Безусловно, ИИ-боты собирают общую информацию о людях – расовая принадлежность, возраст, пол, социальный статус и уровень достатка и многое другое.В этом нет ничего пугающего, но в том, что они ее тщательно анализируют и выделяют ключевые детали, есть.
Нейросети могут «выжать» из безобидной болтовни столько деталей, что можно задуматься об их могуществе. Например, упоминание о поездке на трамвае, может указать на высокую вероятность проживания пользователя в Европе, где этот вид транспорта все еще развит.
Возможности ИИ (https://itcrumbs.ru/news-hi-tech/web/novosti-sotssetej/ii) позволяет делать довольно точные выводы о местоположении, предугадывать его дальнейшие действия и даже формировать социальный контекст.
Все это может быть использовано «во зло» — для таргетированной рекламы в лучшем случае, и для изощренной мошеннической атаки в худшем. Ученые призывают относиться к их предупреждению серьезно и меньше доверять виртуальным помощникам и собеседникам.
А чат-бот Apate был создан для игры (https://itcrumbs.ru/news-hi-tech/igry-programmy-prilozheniya/novosti-pro-igry) в «кошки-мышки» с мошенниками. Его основная цель — задерживать злоумышленников на линии, имитируя поведение настоящего человека (https://itcrumbs.ru/razrabotchik-vzyal-revansh-nad-telefonnymi-moshennikami_85974).
Нескучные Технологии