Есть интересная новость из мира права и технологий 🚀! У известного юридического бюро Салливан и Кромвел (Sullivan & Cromwell) произошла неприятная ошибка, связанная с AI.
Бюро представило иск в суд, содержащий около 40 неправильных цитат и других ошибок, вызванных «hallucinations» AI Это когда AI создает что-то, что на самом деле не существует 🔮.
Управляющий партнер бюро Эндрю Диттерих (Andrew Dietderich) написал письмо главному судье Мартину Гленну (Martin Glenn) и извинился за это
Он признал, что бюро не следовало своим правилам и не проверило все правильно 🙏.
Это случилось с бюро, которое занимает высокое место в рейтингах Они представляли интересы криптобиржи FTX в ее банкротстве 💰
Теперь они проверяют все свои внутренние процессы, чтобы такого не повторилось.
Проблема с AI заключается в том, что она может создавать что-то, чего на самом деле не существует Например, неправильные цитаты или даже юридические аргументы 🤯.
Один из экспертов, Дамиен Шарлотен (Damien Charlotin), подсчитал, что таких случаев было около 1 334 за всю историю
mostly они касались неправильных цитат 📊.
В этом случае AI создала неправильные цитаты, которые никто не проверил Теперь бюро занимается разбором этого случая и проверкой своих внутренних процедур 📈.
Бюро уже провело внутреннюю проверку и приняло меры, чтобы такого не повторилось
Теперь они работают над улучшением своих внутренних процессов и проверок 🚀.
Диттерих также поблагодарил другое бюро, которое обнаружило ошибку и привлекло внимание к этому вопросу 🙏.
По материалам CoinTelegraph