Large Concept Models - не читал, не осуждаю

[vadperez]

"Large Concept Models (LCM): A New Frontier in AI Beyond Token-Level Language Models

Comments

[evgeniirudnyi]

Похоже, что он ищет финансирования и убеждает вложиться в это дело.

[amin_abu_kitab]

А я осуждаю. Это снова ображение к семантическим теориям. То есть их история компании Эбби ничему не научила. Хотя здравое зерно тут есть. Но оно не прорастет при таком подходе. Имхо. Два уровня действительно нужны, и они, насколько я понял из объчснений специалистов, не реализованы. Первый уровень расставляет голые операнты, второй уровень обеспечивает автоклитику: синтаксис и грамматику в первую очередь. И автоклитическая часть должна быть специфична для каждого языка и никак иначе. А здравое зерно состоит в том, что оперант может быть значительно крупнее слова. Например, "оставь надежду всяк сюда входящий" - цельный оперант, и должен быть цельным токеном. Семантику же засастую нельзя обнаружить (строго говоря) внутри текста. Просто потому, что с помощью формального анализа зачастую невозможно определить тип операнта. "Огонь! " - может быть как называнием, так и, например, приказом расстрельной команде. То есть программа должна уметь каким-то образом определять управляющие связи, в случае безглащой и безухой машины, она должна