Сотрудник Microsoft по искусственному интеллекту отвечает на проблемы конфиденциальности Windows 11
Выступая в Стэнфордском институте человеко-ориентированного искусственного интеллекта, главный научный сотрудник Microsoft Джейми Тиван выступил в защиту конфиденциальности Windows 11 Recall, заявив, что функция искусственного интеллекта работает локально, без хранения данных в облаке. Она также ответила на новости о проблемах конфиденциальности и безопасности Windows Recall.
Напомним, это новая функция, которая поставляется с ПК на базе Snapdragon X. Она записывает все, чтобы сделать вашу прошлую деятельность «доступной для поиска». Например, если вы работали над проектом и обсуждали это с другом, но не могли вспомнить детали или место, где это происходило, вы можете использовать встроенный ИИ Microsoft, чтобы вспомнить этот момент.
PCRentgen протестировала эту функцию, где мы заметили, что Recall делает снимки экрана каждые пять секунд. Хотя Microsoft позволяет вам исключать приложения и веб-сайты из записи Recall, компания предупредила, что Recall может перехватывать ваши пароли и конфиденциальную информацию.
Согласно документации поддержки Microsoft, это связано с тем, что ИИ извлекает тексты из изображений и не осуществляет модерацию контента.
Настоящая проблема конфиденциальности Recall заключается в том, что она фиксирует все и создает базу данных, которая хранится локально и к которой можно получить доступ без особых усилий.
По словам Кевина Бомонта, ранее работавшего в Microsoft, Windows 11 использует Azure AI, работающий на устройстве изначально, для автоматического извлечения данных OCR из каждого снимка экрана.
Сообщается, что данные OCR, которые могут включать ваши пароли, хранятся в базе данных SQLite внутри пользовательской папки, для доступа к которой требуются определенные разрешения.
«В этом файле базы данных записано все, что вы когда-либо просматривали на своем ПК, в виде простого текста», — пишет Бомонт, который предположительно модифицировал установку Windows 11, чтобы принудительно включить функцию Recall на официально не поддерживаемом устройстве.
На данный момент неясно, будет ли интеграция Recall более безопасной на устройстве с процессором Snapdragon X и чипом Pluton.
Microsoft утверждает, что Recall безопасен, поскольку хранит все локально
На конференции Стэнфордского института человеко-ориентированного искусственного интеллекта учёный из Microsoft Джейми Тиван ответил на проблемы конфиденциальности, связанные с Recall в Windows 11.
В ходе дискуссии Эрик Бриньолфссон, американский ученый, писатель и изобретатель, отметил, что в последнее время произошла негативная реакция из-за проблем с конфиденциальностью. Собирает ли Recall ваши данные? Эрик поднял несколько вопросов, и Microsoft защитила интеграцию ИИ простым оправданием: все хранится локально.
Ученый-исследователь Microsoft Джейме ответил: «Да, это отличный вопрос, Эрик, это так, и вопрос также всплывал в течение всего утра, важность данных и этой революции искусственного интеллекта, в которой мы сейчас находимся, действительно меняет способ понимания хранения данных».
Когда Эрик снова спросил: «Они хранятся локально? Предположим, я активирую Recall. Я не знаю, смогу ли я, но когда у вас будет что-то подобное, я буду беспокоиться о том, что все мои личные файлы попадут в облако, Microsoft или куда-то еще. У вас оно хранится в зашифрованном виде или как?
Джейме заверил: «Да, это основополагающая вещь, о которой мы, как компания, очень заботимся, — это защита данных. Итак, Recall — это функция, которая собирает информацию, это локальная функция Windows, ничего не передается в облако, все хранится локально».
Хотя заявления Microsoft не решают наших проблем, они подтверждают, что Recall является полностью локальным.
Исследователи безопасности задали несколько вопросов, в том числе, какие меры примет Microsoft для предотвращения несанкционированного доступа к базе данных Recall со стороны других пользователей на том же устройстве.
Мы также не знаем, как система защищает конфиденциальную информацию, например финансовые данные, от хранения и доступа к ней.
Лично мне нравится идея Recall, но конфиденциальность и безопасность одинаково важны. Считаете ли вы, что Microsoft делает достаточно для защиты Recall? Дайте нам знать в комментариях ниже.