TL;ДР; Да, это так — путем масштабирования вещей, которые, вероятно, не нуждались в масштабировании.
Когда OpenAI запустила ChatGPT в конце прошлой недели, технологический Интернет загорелся изумлением, демонстрируя на одном снимке экрана за другим, насколько убедительным был инструмент для создания, казалось бы, невероятных подвигов аргументации. Конечно, не прошло много времени, как кто-то попытался склонить его к пропаганде преступной деятельности или к разглашению расизма, и, конечно же, он избегал этого лучше, чем системы, которые были до него — может потребоваться три или четыре подсказки. прежде чем он уступит». В конце концов, Microsoft Tay и Facebook Galactica упали с первой подсказки!
Инструмент действительно впечатляет на уровне пройти тест Тьюринга убедительного создания текста, кажущегося человеком в 5-минутном разговоре. Это также очень впечатляет при запоминании технических деталей, таких как возможность имитировать приглашение командной строки, среду программирования или главного героя фильма — даже если персонажи играют немного фальшиво.
Это было бы совершенно потрясающе в игровой среде, где NPC должен был бы иметь свежий диалог для создания разнообразия, хотя и менее потрясающе, если бы у NPC были подсказки для важных миссий, которые нужно предоставить, и игрок должен был бы найти их среди стога сена.
Все это сложный механизм, призванный скрыть то, что это система памяти, обученная на терабайтах текстовых архивов, способная на впечатляющие подвиги создания производных текстов, но неспособная отличить факты от вымысла, генерировать оригинальные мысли или анализировать собственные предубеждения. Слабости, безусловно, присущи и человеческому мозгу, но их следует стремиться преодолевать, а не усиливать.
