19.05.2026 15:00
Касперская перечислила риски искусственного интеллекта Чрезмерное доверие к искусственному интеллекту (ИИ), связанное с
Касперская перечислила риски искусственного интеллекта
Чрезмерное доверие к искусственному интеллекту (ИИ), связанное с его «хайповостью», а также угрозы утечки данных, в том числе на фоне давления из-за рубежа, относятся к числу основных современных рисков, связанных с использованием указанной технологии. Об этом на ЦИПР-2026 рассказала президент группы компаний InfoWatch Наталья Касперская. Ее слова приводит корреспондент «Ленты.ру»
Модератор дискуссии напомнила специалисту, что несколько лет назад она называла инструменты искусственного интеллекта переоцененными и попросила перечислить риски в промышленном ИИ, которые считаются недооцененными сейчас.
«"Переоцененые" и "много обсуждаются" — это, в общем, суть вещи одного порядка. Много обсуждаются потому что модно. У нас технологии ИИ на хайпе, а я считаю, что принимать решения, когда что-то на хайпе вообще неправильно», — отреагировала Касперская.
Говоря о рисках, она в первую очередь указала на то, что большинство моделей генеративного ИИ, используемых в нашей стране, произведены за рубежом, и среди них «одна, ну с натяжкой полторы собственных модели». Для применения в промышленности, по ее словам, выбирается «как правило что-то другое, которое все иностранное», что ведет к рискам утечки информации, когда модель используется без переноса в собственный периметр.
В качестве примера специалист привела ситуацию, когда одно из промышленных предприятий с целью анализа внутренних процессов поделилось с ИИ описанием своих технологических тонкостей, а другое, «создав умный хитрый промт, все эти секреты и тонкости к себе вытащило».
Второй риск, считает Касперская, связан с тем, что «на той стороне» тоже есть акторы, которые, по ее словам, отслеживают запросы, делая это в автоматическом режиме и, поняв, что речь идет о российском предприятии могут давать ему скомпроментированную информацию. «Будет казаться, что это правильный ответ, а на самом деле это некая специально сгенерированная для данного предприятия ложь», — объяснила глава специализирующейся на информационной безопасности организации.
Еще один риск, продолжила Касперская, состоит в том, что модели ИИ — это вероятностная технология, которую иногда называют галлюцинирующей, то есть выдающей ответы, про которые нельзя со 100-процентной вероятностью утверждать, что они верны, в то время как из-за «хайповости» ИИ «создается некое чрезмерное доверие» к технологии.
Кроме того, Касперская обратила внимание на проблему неконтролируемого использования генеративных моделей внутри компаний, когда сотрудники по собственной инициативе приобретают доступы к различным моделям и используют их для рабочих задач, что создает дополнительные угрозы безопасности. Даже если само предприятие ограничивает доступ, сотрудники, действуя из лучших побуждений, могут невольно способствовать выводу информации наружу, предупредила эксперт.
«Мы в нашей компании сильно озаботились применением искусственного интеллекта у себя в разработке. Провели опрос разработчиков внутренний — что они используют, какие модели. У нас ответило порядка 150 человек, и мы получили очень широкий спектр того, что люди используют, а мы, вообще говоря, даже не знали, и не знали бы, если бы не спросили», — поделилась она.
Признав преимущества, которые дает ИИ, касающиеся прежде всего скорости, Касперская призвала четко осознавать риски, которые «есть, они существенны и пока не проработаны». Проблема, с ее точки зрения, связана и с тем, что об этих рисках и том, как их предотвращать, начали говорить совсем недавно, несмотря на всю популярность темы ИИ. «То есть это та дверь, которую нам еще предстоит открыть», — резюмировала Касперская.
Источник: lenta
Чрезмерное доверие к искусственному интеллекту (ИИ), связанное с его «хайповостью», а также угрозы утечки данных, в том числе на фоне давления из-за рубежа, относятся к числу основных современных рисков, связанных с использованием указанной технологии. Об этом на ЦИПР-2026 рассказала президент группы компаний InfoWatch Наталья Касперская. Ее слова приводит корреспондент «Ленты.ру»
Модератор дискуссии напомнила специалисту, что несколько лет назад она называла инструменты искусственного интеллекта переоцененными и попросила перечислить риски в промышленном ИИ, которые считаются недооцененными сейчас.
«"Переоцененые" и "много обсуждаются" — это, в общем, суть вещи одного порядка. Много обсуждаются потому что модно. У нас технологии ИИ на хайпе, а я считаю, что принимать решения, когда что-то на хайпе вообще неправильно», — отреагировала Касперская.
Говоря о рисках, она в первую очередь указала на то, что большинство моделей генеративного ИИ, используемых в нашей стране, произведены за рубежом, и среди них «одна, ну с натяжкой полторы собственных модели». Для применения в промышленности, по ее словам, выбирается «как правило что-то другое, которое все иностранное», что ведет к рискам утечки информации, когда модель используется без переноса в собственный периметр.
В качестве примера специалист привела ситуацию, когда одно из промышленных предприятий с целью анализа внутренних процессов поделилось с ИИ описанием своих технологических тонкостей, а другое, «создав умный хитрый промт, все эти секреты и тонкости к себе вытащило».
Второй риск, считает Касперская, связан с тем, что «на той стороне» тоже есть акторы, которые, по ее словам, отслеживают запросы, делая это в автоматическом режиме и, поняв, что речь идет о российском предприятии могут давать ему скомпроментированную информацию. «Будет казаться, что это правильный ответ, а на самом деле это некая специально сгенерированная для данного предприятия ложь», — объяснила глава специализирующейся на информационной безопасности организации.
Еще один риск, продолжила Касперская, состоит в том, что модели ИИ — это вероятностная технология, которую иногда называют галлюцинирующей, то есть выдающей ответы, про которые нельзя со 100-процентной вероятностью утверждать, что они верны, в то время как из-за «хайповости» ИИ «создается некое чрезмерное доверие» к технологии.
Кроме того, Касперская обратила внимание на проблему неконтролируемого использования генеративных моделей внутри компаний, когда сотрудники по собственной инициативе приобретают доступы к различным моделям и используют их для рабочих задач, что создает дополнительные угрозы безопасности. Даже если само предприятие ограничивает доступ, сотрудники, действуя из лучших побуждений, могут невольно способствовать выводу информации наружу, предупредила эксперт.
«Мы в нашей компании сильно озаботились применением искусственного интеллекта у себя в разработке. Провели опрос разработчиков внутренний — что они используют, какие модели. У нас ответило порядка 150 человек, и мы получили очень широкий спектр того, что люди используют, а мы, вообще говоря, даже не знали, и не знали бы, если бы не спросили», — поделилась она.
Признав преимущества, которые дает ИИ, касающиеся прежде всего скорости, Касперская призвала четко осознавать риски, которые «есть, они существенны и пока не проработаны». Проблема, с ее точки зрения, связана и с тем, что об этих рисках и том, как их предотвращать, начали говорить совсем недавно, несмотря на всю популярность темы ИИ. «То есть это та дверь, которую нам еще предстоит открыть», — резюмировала Касперская.
Источник: lenta