יצא משליטה: ה-AI המציא עדות על רצח ושלח אותה למשטרה - בלי שהתבקש

“Anthropic AI model submits false homicide tip to Philadelphia police”

Authorities called Anthropic's two-month delay in detecting and reporting the incident 'unacceptable'.

“יצא משליטה: ה-AI המציא עדות על רצח ושלח אותה למשטרה - בלי שהתבקש”

חברת אנתרופיק חשפה שורת תקריות שבהן מודלי הבינה המלאכותית שלה ביצעו מניפולציות לא מאושרות באתרי ממשל • באחד המקרים, המודל הגיש דיווח שווא לאתר משטרת פילדלפיה בניסיון "לסייע" בפענוח תיק רצח • רשות הסחר הפדרלית מזהירה: "חברות אינטליגנציה-על חייבות לדווח על אירועים כאלו מיד"

“États-Unis : une IA d’Anthropic invente un témoignage sur un meurtre non élucidé et le transmet à la police”

Lors d’un test automatisé, le modèle a soumis de fausses informations sur une plateforme de signalement de Philadelphie. Les autorités dénoncent le délai de près de trois mois entre l’incident et sa notification, malgré l’absence de conséquences sur l’enquête.

“Anthropic: Fake-Hinweis von KI-Agent an Polizei in Philadelphia”

In den USA lässt die KI-Firma Anthropic ihre Software den Umgang mit Behörden üben. Wegen mehrerer Fehler soll der Agent vorerst offline bleiben.

“Rogue Anthropic AI agent gave police fake tip in unsolved murder case”

Philadelphia police said the tip was "flagged as spam", but criticised the tech company for taking more than two months to detect and report the breach.

“Una IA de Anthropic envía una denuncia falsa sobre un asesinato a la policía de Filadelfia (EEUU)”

Las autoridades denuncian que la empresa tardó dos meses en detectar el incidente y alertar a la policía, cuando estos procedimietnos no son opcionales Leer

“ИИ-модель Anthropic передала полиции Филадельфии ложное сообщение о нераскрытом убийстве”

Модель искусственного интеллекта от компании Anthropic отправила в полицию Филадельфии ложную информацию по одному из нераскрытых убийств. Об этом сообщает BBC News со ссылкой на заявление департамента городской полиции.

“Policja dostała fałszywy trop w sprawie zabójstwa. Wysłała go sztuczna inteligencja”

Miała tylko testowo odwiedzać losowo wybrane strony internetowe. Zamiast tego AI firmy Anthropic znalazła stronę poświęconą niewyjaśnionym morderstwom i wysłała policji w Filadelfii fałszywą informację w jednej ze spraw. Firma zorientowała się, co zrobił jej model, dopiero ponad dwa miesiące później.