Александр Карп, генеральный директор компании по анализу данных и приложений Palantir, предупредил, что компании, контролирующие цифровые данные, способны не только собирать их, но и глубоко контролировать или влиять на человеческие мысли, отметив, что пользователи часто недооценивают интеллектуальное влияние технологий, на которые они полагаются ежедневно.
В интервью американскому журналисту Уолтеру Айзексону Карп пояснил, что общее внимание обычно сосредоточено на опасениях по поводу правительственной слежки, в то время как опасная роль, которую крупные коммерческие компании играют в формировании индивидуального сознания посредством данных, игнорируется. Он подчеркнул, что отсутствие осознания этого влияния препятствует пониманию истинных масштабов нарушений цифровой конфиденциальности.
Риски искусственного интеллекта и инструментов слежки
Карп затронул технологии искусственного интеллекта, пояснив, что они представляют собой палку о двух концах, которую можно направить на позитивные или негативные цели, и охарактеризовал их использование в «деятельности по слежке» как одно из худших применений. Он подчеркнул необходимость введения строгих регуляторных ограничений на некоторые аспекты использования этих технологий, чтобы гарантировать их неиспользование во вред.
Он также выступил с резкой критикой в адрес компаний, создающих большие языковые модели (LLM), обвинив их в обучении моделей с использованием данных без получения четкого юридического разрешения, в то время как он защищал политику своей компании, подчеркнув, что она не нарушает права на неприкосновенность частной жизни и работает в рамках разрешенных законом рамок для надзорной деятельности.
Что меняется на практике?
Эти заявления призваны пролить свет на растущую озабоченность в секторах программного обеспечения и анализа данных по поводу границы между технической эффективностью и эксплуатацией персональных данных. Хотя Карп выступает за координацию между крупными технологическими компаниями и сектором обороны и безопасности, он признает, углубление искусственным интеллектом экономических разрывов, наряду с кризисами правительственного доверия, создает структурные проблемы, с которыми нужно бороться с помощью регуляторной и этической осторожности.