Chat-GPT тепер не брехатиме? OpenAI вигадали нову стратегію
Наразі гостро постала проблема дезінформування користувачів штучним інтелектом, і для боротьби з цим явищем OpenAI запропонувала рішення.
Дезінформування, або «галюцинації» ШІ виникають, коли моделі, подібні до ChatGPT, повністю фабрикують інформацію.
«Навіть найсучасніші АІ-моделі схильні видавати хибні відомості. Вони демонструють тенденцію вигадувати факти в моменти невизначеності, — пишуть дослідники OpenAI у своєму звіті. – Ці галюцинації викликають багато проблем у галузях, що вимагають багаторівневих міркувань, оскільки однієї логічної помилки достатньо, щоб зірвати масштабніший результат».
Тому OpenAI запровадить стратегію щодо боротьби з вигадками. Вона полягає в тому, щоб навчати моделі ШІ винагороджувати себе за кожен окремий, правильний крок міркувань, коли вони приходять до відповіді, замість того, щоб винагороджувати лише за правильний остаточний висновок. Дослідники назвали цей підхід «контролем процесу». На їхню думку, він може призвести до створення більш логічного штучного інтелекту, оскільки ця стратегія спонукає моделі дотримуватися «ланцюжка думок», подібного до людського.
