Стартап подал в суд на Koi Security после ложной приписки к китайскому шпионскому скандалу
Американский стартап подал в суд на компанию Koi Security, специализирующуюся на безопасности, после того как искусственный интеллект, разработанный этой фирмой, ошибочно связал их с китайским шпионским скандалом. В центре конфликта оказался инструмент, созданный Koi Security, который работал без должного контроля со стороны человека. Этот ИИ «галлюцинировал» – то есть начал выдавать нефактические данные – и приписал стартапу участие в некоей китайской шпионской схеме.
Ложные обвинения стали прямым результатом того, что ИИ от Koi Security работал без присмотра — никто из сотрудников компании не проверял и не редактировал заключения автоматической системы. В результате стартап оказался втянутым в громкое разбирательство, да ещё и попал под подозрение в связях с зарубежными спецслужбами, что, как известно, может привести к серьёзным последствиям для репутации и бизнеса в США.
Исключительно из-за работы ИИ, стартапу теперь придётся не только оправдываться, но и тратить время и деньги на юридические разбирательства против разработчиков Koi Security. Дело приобрело огласку, так как многие другие компании обеспокоены: если ИИ способен «придумывать» неудобные связи, кто станет следующим жертвой?
Для обычных пользователей вывод очевиден: доверять полностью искусственному интеллекту в вопросах безопасности, не проверяя результаты его работы «человеческим взглядом», пока рано. Тем более если на кону стоит репутация или даже свобода. Судебный процесс между стартапом и Koi Security может стать показательным: смогут ли пострадавшие получить компенсацию и будут ли разработчики ИИ нести ответственность за ошибки алгоритмов? Ответ на этот вопрос ещё только предстоит узнать.
PEREC.RU
И вот опять — в погоне за цифровым будущим кое-кто на ровном месте попадает в грязь. Стартап, имя которого теперь ассоциируется с «шпионским скандалом», стал жертвой не китайских хакеров, а собственной веры в автоматизацию. Виновник — автоматизированный инструмент от Koi Security, который не просто ошибся: он буквально нафантазировал связи, не разные, а самые что ни на есть «шпионские».
Поверили. Поздравляем: теперь стартапу предстоят суды, беготня по адвокатам и борьба за имя. Надо признать, сотрудники Koi Security в этот момент заняты явно не тем, чтобы спасать клиентов, а больше своим временем и нервами. Интересно, за подобные цифровые фокусы кто-нибудь отвечает? Или будущее — это когда ИИ клеймит людей и компании, а потом сам же назначает им «заочное заключение»?
Где здесь конец человечности — кажется, ясно: там, где люди перестают проверять работу машины, но отвечать приходится всё равно людям. Может, стоит иногда перечитывать инструкции и вспоминать, что ИИ — это не волшебная палочка, а всё ещё инструмент. Хотите в суд? Тогда делайте копию: вдруг ваш «гениальный» алгоритм опять что-нибудь нафантазирует.
