Принципы квалифицирования результатов обучения в ШСМ

May 22, 2024 17:58

Andrei Karpathy предложил чудесный тест на умность: сравнивать людей по их возможностям генерировать осмысленные речи с поколениями GPT -- кто-то тянет на GPT-2, кто-то на GPT-7 (https://twitter.com/karpathy/status/1789605356617752724, там предложение сделать простенький классификатор на определение такого уровня): "В идеале вам нужен хороший мини-ряд, в котором все остается постоянным, кроме размера модели, например. Модельный ряд Llama 3, особенно когда они также выпускают модели меньшего (и большего!) размера. Выполните выборку моделей по множеству подсказок (или используйте базовые модели?), классифицируйте размер модели, а затем покажите ей на различные тексты в Интернете, например: изучите расхождение между разделами комментариев WSJ и лидерами венчурного капитала :P". И там красивая картинка, как ChatGPT видит такой GPT-метр:


В каждой шутке есть только доля шутки. Если речь идёт о тестах на усиление интеллекта, то вполне можно пользоваться и подобной процедурой "какая ты GPT". Но Школе системного менеджмента надо определяться с квалификацией студентов по программе "Организационное развитие", мы вроде как за примерно год берёмся выпускать что-то типа "магистра организационного развития", в просторечье -- "директор по развитию", который понимается как директор по развитию разного масштаба, но всё-таки ориентированного не на маленькую команду разработчиков одного отдела, а на какой-то вариант scaled agile -- от развития департамента до развития крупного холдинга.

Ступеньки нашей квалификации кратенько сформулированы вот тут: https://system-school.ru/qualification. Степени квалификации ШСМ привязаны к 8 уровням европейской шкалы результатов обучения EQF (European Qualifications Framework, https://www.cedefop.europa.eu/en/events-and-projects/projects/european-qualifications-framework-eqf), но развёрнуты в сторону агентности, "активной жизненной позиции". Наш опыт показал, что это главное. Проблема в том, что "активный дурак" обладает страшной разрушительной силой, при этом заставить его поумнеть часто очень трудно, там GPT-2, которая очень плохо учится (например за счёт того, что не удерживается внимание -- причины разные, вплоть до хронического недосыпа или отсутствия витаминов, но поскольку "дурак", то и выспавшийся дурак будет заниматься всякими разными отвлечениями, а не учиться). А вот с умными людьми оказалось по-другому: они готовы часами разговаривать об учебнике, специальной литературе, гордиться своими знаниями -- но ничего не делать, становиться "диванным аналитиком" по всему пройденному материалу. Поэтому главной задачей мы признали transfer of learning, https://en.wikipedia.org/wiki/Transfer_of_learning.

Квалификацию мы даём по следующей шкале (дам альтернативные формулировки, ибо раньше приводил их много раз в блоге, и ещё есть формулировки на странице квалификационных степеней ШСМ):
-- первокурсник: продержался первые десять домашних заданий "Моделирования и собранности" (первый семестр) или хотя бы подготовительных курсов (foundation year, если трудно сразу вкатиться в серьёзное обучение). Это хорошо характеризует его уровень собранности: смог, или не смог. Если получил "начинающего", то смог. Очень много студентов отваливаются на пятом-седьмом задании, ибо "оказывается, тут надо учиться, а я отвык" -- так что до квалификации "начинающего" дело не доходит.
-- начинающий: прошёл первый семестр, разобрался с типами и перестал путать бег и бегуна (интересно, что на входе их путают 8 из 10 студентов) -- не удерживают работы со строгой типизацией в текстах, даже профессиональные программисты. Любимая ошибка -- перепутать символ (описание, модель) и символизируемый им объект. Следствие такой ошибки -- симпатическая магия (https://ailev.livejournal.com/1644996.html), например, программист или конструктор считают, что их работа -- это написать код или выдать 3D-модель, и дело с концом. Операции с моделью чудесным способом сами переходят в мир. Это, кстати, важно для агентности. Если ты веришь в силу моделей (как верят в модель -- куклу Вуду), то зачем тебе агентность? Достаточно дома поколдовать над моделью, например, уколоть булавками куклу Вуду -- и дело в шляпе! Начинающий умеет в наивное моделирование: делает мета-модель, но вот с типами мета-мета-модели у него ноль, ибо про тип "система" или "метод" ему мало что известно.
-- стажёр: освоил материал второго семестра -- "Системное мышление и методологию", поэтому довольно бегло проводит в мышлении системную мантру и понимает значительную часть мета-мета-модели. Увы, стажёр уже видит мир как системы, видит методы работы, о существовании разделения труда знает -- но ещё не знает, какова SoTA инженерии и менеджмента. Но стажёр уже чётко замечает заблуждения (misconceptions) системного мышления в своей работе и исправляет их, это ключевой критерий. Так, ключевая ошибка -- это полное игнорирование окружения целевой системы, если на это не обращается внимания, то системную мантру считаем не освоенной, квалификации стажёра не даём. Особенность нашей процедуры квалификации в том, что надо продемонстрировать не умение размышлять в учебных кейсах (их нет!), но предъявить какие-то действия в своих проектах по исправлению таких ошибок. При этом речь не идёт о какой-то продвинутой инженерии или организационном развитии, это будет в следующих семестрах. Увы, как инженерия целевых систем, так и оргреформы стажёров, даже если они и есть, идут обычно "из ниоткуда в никуда", если вообще идут, а не вечно "планируются". Стажёров и даже "недостажёров" (но уже не "начинающих") у нас довольно много. Недостажёры -- это которые прошли "Системное мышление", но не хватило духу на "Методологию". И дальше специалистов будет ещё меньше, ибо по нашей же статистике до материала третьего семестра добирается не так много людей, стартовавших онлайн-обучение или закончивших второй семестр в группах с инструкторами. Хотя в корпоративных группах до третьего семестра добираются все "стажёры", за это мы и любим корпоративные группы.
-- специалист: наконец, он закончил третий семестр "Системный менеджмент и инженерия" и освоил основное содержание программы, оно изложено в трёх инженерных курсах ("Системная инженерия", "Инженерия личности", "Системный менеджмент"). После трёх подряд однотипно устроенных курсов и получения кругозора по устройству современной коллективной работы и основам оргразвития, студент считается готовым к каким-то оргреформам (особенно, если у него уже есть степень MBA, у нас таких студентов не так уж и мало). "Специалиста" студент получает, если он "вызубрил материал" и способен внятно поддержать беседу, "знает материал курсов". Эта ступенька квалификации после третьего семестра даётся, если материал знается -- но в жизнь это знание не выходит, пользы от него ни себе, ни людям, знание методов работы не перешло в сами работы. Если прохождение третьего семестра привело к каким-то изменениям в себе и мире, то даются другие степени (практика и мастера).
-- практик: специалист, который не только может рассуждать, но и поменял в чём-то своё поведение. Он понимает теперь, как устроена и должна быть устроена инженерная жизнь, как улучшить своё мышление -- и ровно так и начал делать. Ключевые слова, которые звучат от практиков -- это "я со всеми договорился" (даже с AI-агентами, а окружающими людьми -- и подавно), ибо понятно как разбираться с ролевыми интересами, понятно, в чём могут быть ошибки. Работа спорится, жизнь практика драматически улучшается. Он смог изменить себя, это очень трудно.
-- мастер: по факту это магистр по оргреформам (ОК, "цифровой трансформации", ибо других оргреформ на предприятиях сейчас уже не бывает). Это практик, который от "я сделал то, я сделал сё, я круто изменился" перешёл к "вон те люди, которых я организовал, сделали то, а вон те люди -- сделали сё". По факту речь идёт о десятках людей, при этом неважно, занимает ли наш студент позицию топ-менеджера, он действует как топ менеджер -- "я договорил всех вокруг себя", а не "я договорился со всеми". И если тут пока ещё позиция не топ-менеджера, то довольно быстро наши мастера становятся топ-менеджерами, не только на должностях вроде "директор по развитию", но и "главный архитектор продукта". Вот тут немного развёрнутей, что требуем от мастеров, которые выходят на уровень топ-менеджеров: https://ailev.livejournal.com/1708306.html. А ещё наши мастера получают право преподавать наши курсы для вузовских групп, их студенты получают наши курсы бесплатно: https://systemsworld.club/t/1-2024/4341.
-- реформатор: по факту это мастер, который вышел в своём "я договорил всех" за пределы предприятия и вышел на уровень сообществ, то есть бизнес-экосистем и сообществ практики, занимается общественной деятельностью, иногда ещё и преподаёт в вузах или на каких-то курсах, ведёт публичный популярный блог. Пока ШСМ не готовит к реформаторству непосредственно (например, ещё нет курса "Инженерия сообществ", что прямо профильный тут курс), но делается довольно много для поддержки перехода в деятельность масштабом больше предприятия. Четвёртый семестр "Объяснения и риторика" учит этичной коммуникации, пятый семестр учит поддерживать своё тело ("кто везёт, на того и наваливают", поэтому наши выпускники радуются жизни и карьерному росту сразу после третьего семестра, но потом получают большую нагрузку от резкого роста объёма своих проектов -- и им надо бы рассказать, как с этим справляться), шестой семестр учит выходу на фронтир, даёт общую картину мира (курс "Интеллект-стек") и предлагает поработать в лаборатории, чтобы уметь оформлять эти фронтирные результаты в виде прикладных курсов.
-- общественный деятель, он же "революционер": пока никто у нас даже не претендует на этот уровень. Но хотелось бы, чтобы наши выпускники добились успеха в науке, культуре, бизнесе и изменили жизнь миллионов людей. Нобелевские лауреаты, бизнесмены из top500 в мире -- неважно, важно что от изменений на уровне небольших сообществ эти люди перешли к действиям (а не только мышлению) на уровне обществ или даже планеты.

От начинающего, стажёра и даже специалиста мы не ждём изменений хоть в чём-нибудь, кроме знаний по методам интеллект-стека (включая собранность, умение доводить не столько даже дела, но хоть моделирование и прочие размышления хоть до какого-то конца, а не рассеянно тупить в соцсети). Конечно, сразу мы ожидаем улучшений в жизни, но не надеемся на "резкое улучшение себя" (то есть изменение поведения к лучшему, а не просто улучшения самооценки от того, что "прошёл крутые курсы"), и уж тем более не надеемся на то, что студент начнёт чувствовать себя свободней с более сложными инженерными проектами и тем более начнёт проводить какие-то успешные организационные проекты, прежде всего пресловутую "цифровую трансформацию", ибо других оргпроектов на сегодня и не бывает (современные организации удерживаются компьютерами и обеспеченной этими компьютерами организационной собранностью, а не удерживаются просто людьми с их "голым мозгом". Организационное моделирование -- это наше всё).

Но вот дальше прямо по результату прохождения третьего семестра:
-- практик: изменения начались и изменились методы собственной работы, собственного мышления, то есть на базе знаний курсов изменилось к лучшему поведение, изменения захватили хотя бы одного человека -- себя, любимого. Договорился со всеми, воткнул свою работу в коллективную деятельность, в жизнь вокруг, в какой-то небольшой проект (например, проект команды разработчиков или небольшого отдела). Практик на вопрос "что ты сделал" говорит о том, что сделал он сам: писал, строгал, разговаривал.
-- мастер: изменения вышли за пределы себя, любимого, и пошли оргреформы, договорил всех вокруг, и уже какие-то десятки людей пошли втыкать свою улучшенную работу в коллективную деятельность предприятия. Мастер на вопрос "что ты делал" говорит о том, что сделали люди, которых он развернул на новые виды работ и как-то организовал у них рабочие процессы.

Особенности нашего метода квалифицирования:
-- у нас не административная процедура "сдачи экзамена", а индикативная -- "замер" квалификации, а не "оценка". Если у работодателя на корпоративном потоке есть какие-то административные процедуры и он считает квалификацию "экзаменом", то это его мнение, наше (ШСМ) тут дело -- организовать квалификацию, чтобы она была известна. Так что мы проводим квалификацию не на одном занятии, а на многих, при этом необязательно ограничиваясь только занятиями. Так, квалификация может повышаться после выступлений на конференциях, выступлений на методсоветах и семинарах (и даже необязательно ШСМ, но всё-таки предпочтительно ШСМ -- там проще показывать, как связан рассказ с материалом курсов, "говорить на птичьем языке"). Более того, старшие степени квалификации (мастера и реформатора) часто присуждаются именно по выступлениям, а не на занятиях -- занятия к тому времени давно закончены, но это не означает, что квалификация студента не растёт.
-- квалификация абсолютная в рамках всей программы, а не "по итогам курса" или "итогам семестра". У нас значительная часть студентов проходит новые курсы по паре раз, и "уже мастер" вполне возможно захочет перепройти программу первого или второго семестра, демонстрируя при этом новый учебный материал этих семестров и одновременно демонстрируя квалификацию мастера (например, говорит в ответ на вопрос "что сделал на неделе" не про себя, а про то, что начали делать люди, которых он организует -- то есть демонстрируя результаты своей работы как работу других людей, а не себя самого). Вот он получит на занятии "мастера", а не "начинающего" или "стажёра".
-- никаких "учебных задач", никаких "задач на собеседовании", "примеров решения учебных кейсов" и прочих "заданий из менеджерских олимпиад". Только рассказы студентов о собственной работе, только рассказы о рабочих проектах. Требуется показать то, как материал курсов используется в жизни. Даже квалификация "специалист" получается на базе того, что студент грамотно рассказывает о рабочем проекте, а не пересказывает учебник. Проверяется, что студент ведёт рассказ в терминах предметной области проекта (мета-модель), демонстрируя понимание, какого типа эти объекты из материалов наших курсов как мета-мета-модели. Грубо говоря, студент должен рассказывать в языке "самолёт::система летит::функция", рассказ "самолёт летит" будет непонятно, какое отношение имеет к курсам, а рассказ "система летит", "функция самолёта" примерно так же бессмысленнен, как рассказ " система функционирует".
-- критерии квалификации приведены, и мы демонстрируем на занятиях, что означают эти критерии. Увы, если сказать "чтобы быть мастером и тем самым топ-менеджером, ты должен рассказывать не о том, что ты сам сделал, а о том, что сделали нового те люди, с которыми ты работал -- иногда даже будет цепочка из двух-трёх уровней управления", то надо ткнуть студента носом три-четыре раза в то, что он на самом деле говорит (буквально: цитируя ему его слова и указывая, что там предмет рассказа -- его действия, или действия каких-то людей по какому-то новому методу, или вообще никаких изменений не было ни в нём, ни в его проектах), и тогда студент понимает принципы квалифицирования.
-- Принципы квалифицирования по нашей программе "Организационное развитие" должен знать каждый студент, в том числе он должен уметь квалифицировать коллег (и он научается это делать, хотя и не сразу), а затем квалифицировать и себя. Для этого мы на занятиях (не на одном "экзаменационном" или "защите", а на буквально всех занятиях) рассказываем и повторяем эти принципы, а также демонстрируем квалификацию студентов по их речам. Типовой вопрос на наших занятиях -- "расскажи, что ты сделал на работе за последнюю неделю", и тут всё и выясняется.
-- Желательно иметь видео, оно в помощь квалифицируемому: люди редко обращают внимание на то, что они говорят "дословно" -- у них остаётся общее ощущение того, что они были намерены сказать. Но результат квалификации -- это не то, что они хотели рассказать, а то, что они в реальности говорили. Поэтому преподаватели и цитируют их слова, по которым проводят квалификацию, а ещё всегда есть видео.
-- квалифицирование у нас всегда публично: преподаватель или инструктор, и вся учебная группа. Группа постепенно научается проводить квалифицирование по принципам, которые они перенимают по примерам квалифицирования, даваемым преподавателем. Через три-четыре занятия оказывается, что квалифицирование перестаёт восприниматься как субъективная "оценка" преподавателем и больше воспринимается как "замер", который может сделать с более-менее одинаковым результатом любой студент, прошедший курсы и разобравшийся с нашим учебным материалом (даже "специалист", он может сам ничего не делать -- но суждение о том, какая квалификация у коллеги, он вполне может вынести!). В итоге квалифицирование делает вся учебная группа плюс преподаватель, нет вопросов о "субъективности" (а в случае затруднений всегда есть видео). А после окончания курсов квалификации студенты в корпоративных группах делают друг другу.
-- поскольку материалы курсов меняются, то есть меняется SoTA наших знаний методов мышления интеллект-стека, инженерии и менеджмента, то квалификация у нас имеет год последней аттестации. Школа учит с 2015 года, так что некоторые студенты так и поступают: они проходят материал раз в два года, и очень этим довольны, "всегда на фронтире". Если увидите "мастер 2018 года", то можете сами сделать вывод о том, по SoTA ли это мастер, или нет.
Previous post Next post
Up