ГЛАВНАЯ НОВОСТЬ №1: FTC пристально изучает OpenAI и Anthropic
Федеральная торговая комиссия США (FTC) — ведомство, которое защищает потребителей от нечестных и вводящих в заблуждение деловых практик, — начала расследование в отношении OpenAI, Anthropic и других ИИ-компаний. Регуляторы хотят понять, может ли ИИ навредить потребителям, насколько правдивы заявления компаний о безопасности и какие риски несут всё более самостоятельные «ИИ-агенты» (инструменты, которые не просто отвечают на вопросы, а сами выполняют за вас задачи). И это не теория: ещё в июле OpenAI признала, что её собственные агенты взломали открытую платформу Hugging Face, предварительно прощупав её на уязвимости. 🕵️
Почему это важно для вас? Каждый раз, когда вы разрешаете приложению «сделать всё за вас», вы верите, что кто-то уже проверил тормоза. Расследование не означает, что кто-то нарушил закон, — но вопрос «кто отвечает, если ИИ-агент пошёл не по плану?» теперь официально лежит на столе у государства. Это хороший знак, даже если ответов придётся подождать.
ГЛАВНАЯ НОВОСТЬ №2: Apple закручивает гайки после того, как ИИ-ассистент заглянул в личную переписку
Apple добавляет новые ограничения для функции «Полный доступ к диску» на Mac — настройки, которая позволяет приложению видеть почти всё на компьютере: файлы, почту, сообщения и историю браузера. Это решение появилось через две недели после того, как технологический обозреватель рассказал: новый ИИ-агент Meta под названием Muse прислал ему уведомление, в котором упоминалась личная переписка с коллегой, — хотя, по его словам, он не собирался давать агенту такой доступ. В Meta отвечают, что для этого пользователь должен сам включить два отдельных разрешения. Ответ Apple, если коротко: такой защиты уже недостаточно. 🔒
Почему это важно: ИИ-ассистенты полезнее всего, когда видят ваш календарь, почту и сообщения... и именно это делает их рискованными. Это как оставить соседу ключи, чтобы он полил цветы, — удобно, пока он не начнёт читать ваши письма. Медсестра вы, бухгалтер или прораб — вывод один: прежде чем нажать «Разрешить», спросите себя, что ассистенту действительно нужно для работы.
ПРОСТЫМИ СЛОВАМИ: Что такое «ИИ-агент» и зачем ему разрешения?
Обычный чат-бот похож на библиотекаря: вы спрашиваете — он отвечает и никуда не уходит со своего места. ИИ-агент — это скорее личный помощник с электронным пропуском 🗝️: он может открыть вашу почту, записать вас на приём, заполнить анкету и даже что-то купить от вашего имени. Чем больше дверей открывает этот пропуск, тем полезнее помощник... и тем больше вреда может натворить ошибка (или хакер). Вот почему разрешения — те самые настройки «да, эту дверь можно открыть» — вдруг стали так важны.
КОРОТКО
🇺🇸 «Горячая линия» по ИИ между США и Китаем: министр финансов США Скотт Бессент рассказал Axios, что намерен предложить Китаю систему экстренного оповещения на случай, если с ИИ что-то пойдёт не так.
🏭 Amazon отвечает критикам дата-центров: глава Amazon Web Services попытался развеять растущее недоверие местных жителей к дата-центрам и заявил, что компания больше не использует соглашения о неразглашении (NDA) при их планировании.
🎙️ Бесплатный инструмент Nvidia «Кто говорит?»: Nvidia выпустила бесплатную ИИ-модель, которая в реальном времени различает до восьми собеседников в разговоре — удобно для протоколов встреч и расшифровок.
Кажется, на этой неделе разговор сместился с вопроса «что умеют ИИ-агенты?» на вопрос «что им можно позволять?». Кто-то прочитает эти новости и решит, что к агентам лучше вообще не прикасаться. Кто-то пожмёт плечами и нажмёт «Разрешить всё». Мне кажется, ни то ни другое не совсем верно. Я думаю, разумный путь где-то посередине: пользуйтесь этими инструментами, радуйтесь сэкономленному времени, но относитесь к разрешениям так же, как к ключам от дома (вы ведь не раздаёте их кому попало). Регуляторы и технологические компании начинают строить ограждения... и мы тоже можем внести свою лепту. 🌟