•  ИНФОРМАЦИОННАЯ  БЕЗОПАСНОСТЬ  ГОСУДАРСТВЕННОГО  СЕКТОРА  ЭКОНОМИКИ,  БИЗНЕСА,  ЧАСТНОЙ  ЖИЗНИ  ГРАЖДАН  РОССИЙСКОЙ  ФЕДЕРАЦИИ •
  • Публикации
  • Специалист Content AI указал на угрозу потери данных при применении открытых нейронных сетей
  1. Главная
  2. Публикации
  3. Специалист Content AI указал на угрозу потери данных при применении открытых нейронных сетей
Специалист Content AI указал на угрозу потери данных при применении открытых нейронных сетей
20 декабря 2025

Специалист Content AI указал на угрозу потери данных при применении открытых нейронных сетей

Большинство российских предприятий обеспокоено возможностью раскрытия секретных сведений вследствие внедрения искусственного интеллекта. Глава технологического подразделения Content AI Сергей Юдин поделился своим мнением с изданием «Российская газета», раскрыв причины, по которым публичные нейросети представляют собой потенциальный источник серьёзных утечек информации, и предложил рекомендации по осторожному внедрению ИИ-технологий внутри корпораций.

«Высокий риск утечки данных при использовании нейросетей обусловлен самой природой этой технологии», — отметил Сергей Юдин. По его словам, в отличие от классического проприетарного софта, который просто обрабатывает данные без их сохранения, большие языковые модели буквально «поглощают» переданную информацию и используют ее для понимания контекста. «А в случае публичных сервисов еще и для дообучения», — подчеркнул эксперт.

Он привел типичную ситуацию: сотрудники загружают в нейросеть финансовые отчеты, персональные данные клиентов, тексты договоров или стратегические планы.

«По сути, в такие модели отправляют самые ценные активы компании. Проблема в том, что, попав в открытую ИИ-систему, эта информация практически не подлежит удалению. Она может быть сохранена в логах, использована в обучающих выборках или случайно раскрыта третьим лицам. В результате утечка становится необратимой», — предупредил Юдин.

Эксперт напомнил, что публичные ИИ-сервисы зачастую прямо указывают в своих условиях, что сохраняют историю диалогов. Даже при агрегации и анонимизации данных, по его словам, остается риск их реконструкции или несанкционированного доступа.

«Первый и ключевой шаг — это формирование внутренней политики использования ИИ», — заявил Сергей Юдин.

Он рекомендовал обучать сотрудников тому, какие данные допустимо передавать в нейросеть, а какие категорически запрещено. В качестве практического инструмента защиты он предложил использовать плейсхолдеры: «Вместо настоящих имен, сумм, банковских реквизитов или названий компаний применяются вымышленные. Это позволяет сохранить логику и структуру задачи и получить релевантный ответ от ИИ без риска разглашения конфиденциальной информации».

На уровне архитектуры наиболее надежным решением, по мнению Юдина, остается развертывание ИИ-систем внутри корпоративного периметра.

«Многие современные платформы уже идут по пути локальных моделей. В этом случае данные никогда не покидают организацию, а эффективность ИИ-процессов сочетается с полным контролем над информационной безопасностью», — заключил он.

Материал подготовлен Content AI




Нажимая на кнопку, вы даете согласие на обработку персональных данных и соглашаетесь с политикой конфиденциальности

Ваши контактные данные не публикуются на сайте.

Нажимая на кнопку, вы даете согласие на обработку персональных данных и соглашаетесь с политикой конфиденциальности

Теги:
Публикации
Все публикации
Важное
Import_sec-centre.png
Пришлите готовый запрос на E-mail
или заполните форму

Отправить запрос
Тренды

Популярное

05.01.2026

Интеллектуальные помощники меняют профессию юриста: как автоматизация на основе ИИ преобразует юридическую деятельность

Спецпроект «Агент будущего» «Российской газеты» представил мнение Антона Хаймовского, руководителя разработки и владельца продукта ContentCapture, о современных тенденциях перехода юридической сферы от традиционного ручного анализа к интеллектуальной автоматизации. Специалист подробно осветил перспективы, преимущества и существующие ограничения новых технологий применительно к таким направлениям, как оценка правовых рисков, комплексная проверка контрагентов (due diligence), мониторинг соблюдения нормативных требований (комплаенс) и создание юридических документов с использованием автоматизированных решений.

12.01.2026

«Доктор Веб»: обзор вирусной активности в IV квартале 2025 года

Согласно статистике детектирований антивируса Dr.Web, в IV квартале 2025 года общее число обнаруженных угроз увеличилось на 16,05% по сравнению с III кварталом. Число уникальных угроз при этом снизилось на 1,13%. Наибольшее распространение получили нежелательные рекламные приложения, вредоносные скрипты и различные вредоносные программы, в том числе загрузчики и рекламные трояны.

21.12.2025

VINTEO Desktop совместима с операционными системами «Альт»

Отечественные компании «Базальт СПО», создающая системное программное обеспечение, и VINTEO, разрабатывающая профессиональные инструменты видеоконференций, объявили о подтвержденной совместимости операционных систем «Альт» с клиентским приложением VINTEO Desktop. Специалисты обеих организаций провели ряд тестирований, по итогам которых была удостоверена полная совместимость и бесперебойная работа приложения VINTEO Desktop на операционных системах «Альт Рабочая станция» версий 10 и 11. Подтверждение результатов зафиксировано соответствующими двусторонними сертификатами.

09.12.2025

Завершились успешные испытания и подтверждено взаимодействие СЭД CompanyMedia с семейством операционных систем «Альт»

Фирма «ИнтерТраст», создатель корпоративной системы электронного документооборота CompanyMedia, совместно с российским производителем операционных систем «Базальт СПО» завершила тестирование и подтвердила полное соответствие и стабильность функционирования СЭД CompanyMedia на операционных системах линейки «Альт». Полученный сертификат №0312/25 от 16 октября 2025 года подтверждает успешность проведенных испытаний специалистами «ИнтерТраст». Итоги проверок зафиксированы в специальном двустороннем протоколе

19.12.2025

Беллерофонт позавидовал бы такому мастерству перевоплощения: троян ChimeraWire успешно повышает рейтинг веб-ресурсов, виртуозно имитируя поведение реального пользователя

При исследовании определенной партнерской сети эксперты компании «Доктор Веб» выявили оригинальное вредоносное программное обеспечение типа кликер, обозначенное как Trojan.ChimeraWire. Это приложение функционирует на устройствах с установленной операционной системой Windows и создано на базе открытых проектов zlsgo и Rod, предназначенных для автоматизации взаимодействия с веб-ресурсами и приложениями.

27.11.2025

Электронная краеведческая библиотека Иркутской области «Хроники Приангарья» начала использовать серверное решение ContentReader Server от российского разработчика Content AI для оцифровки культурных ценностей региона

Программное обеспечение позволяет автоматически распознавать текст в сканированных документах, значительно сокращая сроки их подготовки и размещения в ведущем региональном цифровом архиве

03.11.2025

Как заставить производителей соблюдать условия лицензий GPL и где производят свободно распространяемых роботов: выводы XXI конференции создателей свободного программного обеспечения

С 3 по 5 октября 2025 года в городе Переславль-Залесский прошла XXI конференция разработчиков свободного программного обеспечения. Мероприятие посетило свыше 2 тысяч участников, присутствовавших лично и подключившихся удаленно. Организацию события взяли на себя компания «Базальт СПО» и Институт программных систем имени А.К. Айламазяна Российской академии наук (ИПС РАН)

07.11.2025

Компания «Доктор Веб» сообщила о кибератаках хакерской группировки Cavalry Werewolf на госучреждения России

В июле 2025 года в компанию «Доктор Веб» обратился клиент из государственного сектора Российской Федерации с подозрением о возможной компрометации внутренней сети. Гипотеза возникла в связи с тем, что клиент зафиксировал рассылку нежелательных сообщений с одного из корпоративных почтовых ящиков. Проведенное нашей антивирусной лабораторией расследование инцидента показало, что учреждение подверглось целевой атаке со стороны хакерской группировки, которую специалисты «Доктор Веб» идентифицировали как Cavalry Werewolf. Одной из целей кампании был сбор конфиденциальной информации и данных о конфигурации сети

22.10.2025

Отчеты Dr.Web vxCube о целенаправленных атаках интегрированы с матричной структурой MITRE ATT&CK для структурированного представления информации

«Доктор Веб» представляет обновленную версию Dr.Web vxCube. Основное изменение — наложение отчета песочницы на Enterprise-матрицу MITRE ATT&CK, что позволяет объединить результаты анализа с базой знаний о тактиках и техниках атакующих. Результат: более точная оценка вредоносности исследуемых образцов и выстраивание хронологии атаки. Матрица MITRE ATT&CK в формате базы знаний описывает тактики и техники киберпреступников, атакующих информационные системы, — это позволяет специалистам по информационной безопасности получать готовые данные для повышения эффективности защиты инфраструктуры

Мы используем куки (cookies) с целью повышения удобства вашей работы с сайтом.

Продолжая работу с сайтом, вы соглашаетесь с нашей политикой конфиденциальности.