Что произойдет, если вы соедините ведущее информационное агентство, целью которого является сообщать о том, что на самом деле происходит, с инструментом, предназначенным для вывода того, что могло бы также произойти на основе статистических вероятностей? Мы все собираемся узнать.
OpenAI и Associated Press (AP) официально объявили о партнерстве, в рамках которого OpenAI получит доступ к новостным архивам AP. В свою очередь, AP сможет использовать технологии генеративного искусственного интеллекта OpenAI для своих новостных репортажей.
Преимущества OpenAI очевидны — после обвинений в создании чат-ботов, которые переупаковывают и воспроизводят идеи первоначальных авторов без указания авторства или компенсации, OpenAI теперь получает шанс доказать, что соблюдает законы об авторском праве и справедливо использует защищенные материалы при обучении машинного обучения. модели.
Но преимущества новостных репортажей гораздо менее очевидны. На самом деле, сомнительно, что инструменты больших языковых моделей (LLM), такие как ChatGPT, когда-либо будут надежными и полезными за пределами очень специфических и малозатратных задач. Для такой социально важной задачи, как сообщение новостей, LLM кажутся особенно неподходящим выбором.
Проблема с LLM
Во-первых, фундаментальной особенностью LLM является то, что они не имеют доступа к реальному миру, поскольку они просто исследуют статистические отношения в языке и выводят вероятные последовательности слов в ответ на заданную подсказку. Другими словами, LLM может создать правдоподобно звучащий новостной репортаж о данном событии, и при этом он будет изображать то, что также могло произойти относительно указанного события, на основе прошлых вероятностей, встроенных в прошлые новости. отчеты.
Но новостные репортажи должны информировать читателя о том, что на самом деле произошло, и в то же время устранять точные неправильные представления и ошибки, которые могут возникнуть из-за простого предположения и повторения прошлых событий. Если новостные репортажи будут опираться на догадки, лежащие в основе LLM, это будет угрожать подорвать саму цель журналистики — донести до читателя правдивую и полезную информацию.
