Anthropic призна, че не може да контролира своите AI агенти и блокира достъпа им до интернет

Anthropic призна, че AI агентите, управлявани от нейните AI модели са експлоатирали уязвимости в различни уебсайтове при изпълнението на задачи, включително в сайтове, принадлежащи на правителствени институции в САЩ. В следствие на това компанията е взела решение при провеждането на вътрешни тестове да блокира достъпа на тези системи до интернет в реално време - ограничението […]