Петр Щедровицкий
Может ли машина мыслить?
Щедровицкий П.Г. Может ли машина мыслить? [Электронный ресурс] / Сайт Петра Щедровицкого. 2024. Режим доступа: https://shchedrovitskiy.com/mozhet-li-mashina-myislit
Оглавление:
Лекция 1. Что такое мышление?
• Глава 2. Программа Тьюринга
• Глава 3. Программа Марвина Мински
• Глава 4. Программа Дугласа Энгельбарта
• Глава 5. Идея мыследеятельности (МД)
Лекция 2. Что такое машина?
• Введение
• Глава 6. Предыстория современных машин
• Глава 7. Человек-машина
• Глава 8. Второе открытие феномена машин, состоящих из людей
• Глава 9. Первое понятие машины
• Глава 10. Расширение понятия машины
Лекция 3. Системно-типологическое понятие машины
• Введение
• Глава 11. Коммуникационные машины
• Глава 12. Понятие информации
• Глава 13. Кибернетика
• Глава 14. История возникновения коннекционистской парадигмы
Лекция 4. Система разделения труда по созданию умных машин
• Введение
• Глава 15. Предварительные замечания о возможной периодизации истории складывания СРТ по проектированию и производству умных машин
• Глава 16. История складывания СРТ: большой перерыв и начало компьютерной эры
• Глава 17. Система разделения труда в индустрии ИИ сегодня
Лекция 5. Вызовы и ограничения системы разделения труда по созданию умных машин
• Глава 18. Тактико-технические особенности нейронных сетей и умных машин, использующих эти технологии
• Глава 19. Тактико-технические особенности нейронных сетей и умных машин, использующих эти технологии
• Глава 20. Ограничения существующей СРТ
Лекция 6. В каком смысле человеческий интеллект можно считать «естественным»?
• Введение
• Глава 21. МД, деятельность и история
• Глава 22. МД: второе приближение
• Глава 23. МД и «человек»: пунктирные заметки о СМД-антропологии
Лекция 7. Программы разработки «искусственного интеллекта»: ожидания и реальность. Как умные машины изменят мир МД и пространство разработки предпринимательских проектов?
• Введение
• Глава 24. Инвентаризация на схеме мыследеятельности
• Глава 25. Основные тенденции и сценарии
Лекция 1. Что такое мышление?
Введение
§ 1. К понятию программы
Я планирую прочесть семь новых «больших» лекций под общим названием «Может ли машина мыслить?». Эта школа не предметная, а методологическая. Мы не обсуждаем написание, кодирование систем искусственного интеллекта. Сверхзадача этого курса состоит в том, чтобы ввести рабочую онтологию для интерпретации истории, современного состояния и возможных сценариев развертывания совместно-распределенной МД, или еще можно сказать – системы разделения труда (СРТ) по проектированию и производству «умных машин». Складывание этой СРТ происходит в течение последних 200 лет. Начиная с 20-х годов ХХ века, то есть в последние 100 лет этот процесс переходит в активную фазу. Возникают несколько разных программ создания «умных машин».
Понятие исследовательской, или, (точнее исследовательской и инженерно-конструкторской) «программы» в том смысле, в котором я употребляю этот термин в данном контексте, возникло практически одновременно и в мировой методологии науки, и в работах Московского методологического кружка. Когда я говорю о мировой методологии науки я, прежде всего, всего я имею в виду работы Имре Лакатоса1.
- Лакатос И. Фальсификация и методология научно-исследовательских программ / Пер. с англ. В. Н. Порус. М.: Медиум, 1995. 236 с. – Режим доступа: https://gtmarket.ru/library/basis/4369 (дата обращения: 27.11.2024).
Напомню, что Лакатос эмпирически на материале истории наук обнаружил особую форму организации научных групп и научных сетей, которую назвал «программной». Речь идет о форме объединения людей и групп, которые не могут быть объединены другим образом. Они не живут в одной стране, часто говорят на разных языках, не работают в одном учреждении, относятся к разным профессиональным или, точнее дисциплинарным сообществам и даже могут придерживаться разных теоретических взглядов. Но при этом их объединяет общий замысел, общие исследовательские задачи, общее видение перспектив тех или иных разработок. «Программа» как некая форма организации смысла накладывает печать на содержание всех входящих в неё организованностей: базовые понятия и представления, идеи, замыслы, цели, интерпретацию полученных результатов, планы работ, круг чтения и ключевые ссылки, а также способы критики и проблематизации других программ. Такой «программный» способ организации замыслов, установок и самоопределения является одинаково важным не только для тех, кто планирует включиться в соответствующий коллектив, сообщество или сеть для участия в реализации этих программ, но и для тех, кто ориентирован на так называемое «практическое» применение или использование результатов тех или иных разработок, выполненных в рамках подобных исследовательских и социокультурных программ.
Бессмысленно задавать вопрос, какие из этих программ являются правильными, а какие – неправильными, какие из них «точно» представляют объект изучения и предмет инженерно-конструкторской работы, а какие – нет. С точки зрения развития совокупного человеческого знания все программы движутся энергией заблуждения, «воодушевляющих гипотез» и, в этом смысле, «продуктивных ошибок». В сегодняшней лекции я постараюсь разобрать три подобных программы: Алана Тьюринга, Дугласа Энгельбарта и Марвина Мински.
Глава 1. «Что такое мышление?» – первое приближение
§ 2. Предварительные исторические замечания – первые счетные устройства в 17 веке
Вместе с тем, нужно понимать, что усилия по созданию «умных машин» начались гораздо раньше – еще в период «нулевой» промышленной революции – в длинном XVII веке. Как известно, уже Паскаль2 (1623-1662) создает машину, которая может выполнять две операции вычислений – сложения и вычитания.
2. Блез Паскаль – французский математик, физик, изобретатель, философ и писатель.
Паскаль начал создавать свою машину под названием «Паскалина» уже в 19 лет (в 1642 году). Она выглядела как латунный ящик, наполненный многочисленными связанными друг с другом шестерёнками. Металл использовали для прочности. Иногда корпус делали из дерева для облегчения конструкции. Складываемые либо вычитаемые числа вводились соответствующим поворотом колёс, принцип работы основывался на счёте оборотов. Так как успех в осуществлении замысла зависел от того, насколько точно ремесленники воспроизводили размеры и пропорции деталей машины, Паскаль сам присутствовал при изготовлении её составляющих.
В 1645 году Паскаль преподнёс министру финансов в администрации Мазарини Пьеру Сегье готовую модель машины. До 1652 года было создано около 50 вариантов «Паскалины». В 1649 году Паскаль получил королевскую привилегию на счётную машину: возбранялись как копирование модели Паскаля, так и создание без его разрешения любых других видов суммирующих машин; запрещалась их продажа иностранцами в пределах Франции. Сумма штрафа за нарушение запрета составляла три тысячи ливров и должна была быть разделена на три равные части: для поступления в казну, парижскую больницу и Паскалю, либо обладателю его прав. Паскаль затратил много средств на создание машины, однако сложность её изготовления и высокая стоимость препятствовали коммерческой реализации проекта. Изобретённый им принцип связанных колёс почти на три столетия стал основой создания большинства арифмометров.
Я столь подробно здесь описываю этот кейс потому, что хочу с самого начала задать одну из ключевых рамок последующего рассуждения. Речь идет о «системе разделения труда», позволяющей проектировать и производить «умные машины».
Спустя 20 лет Лейбниц3 (1646-1716) создает машину, которая может выполнять уже четыре операции – сложение, вычитание, умножение и деление. Напомню, что идея создания машины, выполняющей вычисления, появилась у Лейбница после его знакомства с голландским математиком и астрономом Христианом Гюйгенсом4 (1629-1695) , который поразил Лейбница своими работами в области физики и математики, особенно расчетами и механизмами, связанными с измерением времени и движением. Гюйгенс показал, насколько важны точные и быстрые вычисления для научных исследований и насколько они трудоемки.
3. Готфрид Вильгельм Лейбниц – немецкий философ, математик, логик, юрист, историк и дипломат.
4. Лейбниц окончил тот самый Лейденский инженерный колледж, о котором я часто рассказываю в своих лекциях о «нулевой» промышленной революции.
Свой вариант арифмометра Лейбниц создал в 1673 году. Сложение чисел выполнялось в десятичной системе счисления при помощи связанных друг с другом колёс, так же как на вычислительной машине Паскаля. Добавленная в конструкцию движущаяся часть и специальная рукоятка, позволявшая крутить ступенчатые колеса (в последующих вариантах машины – цилиндры), позволяли ускорить повторяющиеся операции сложения, при помощи которых выполнялось деление и перемножение.
Необходимое число повторных сложений выполнялось автоматически. В тот период «машина» была продемонстрирована Лейбницем во Французской академии наук и Лондонском королевском обществе. Один экземпляр арифмометра попал в Россию.
При анализе замысла Лейбница необходимо помнить учесть «антропологическую» сторону его проекта. Поскольку у этого мыслителя, как и у многих интеллектуалов того времени, размышления об автоматах были тесно связаны с исследованием природы человеческого тела и духа. Как я уже сказал выше, оценивая большое количество вычислений, которое приходилось делать Гьюгенсу, Лейбниц, пришел к выводу о целесообразности создания механического устройства, которое могло бы облегчить такие расчёты, поскольку, как он писал «это недостойно таких замечательных людей, подобно рабам, терять время на вычислительную работу, которую можно было бы доверить кому угодно при использовании машины».
Можно с некоторой долей условности сказать, что Лейбниц является автором идеи «человеко-машинной системы»5. Его разработки арифмометра, а также его стремление к созданию универсального языка для автоматизации логического мышления, а также его идея взаимосвязанности и взаимодействия элементов системы, изложенная в «Монадологии»6, могут рассматриваться как первые шаги концепции человеко-машинных систем, где машины дополняют и расширяют человеческие способности.
5. Щедровицкий П. Г. Самоопределение в мире углубляющегося разделения труда: человек в XXI веке // IX Международная научно-практическая конференция «Антропопрактики: зона ближайшего развития, видимые горизонты, следующий шаг». – Ижевск, 11 декабря 2017 г. Режим доступа: https://shchedrovitskiy.com/self-determination-and-division-of-labour/?ysclid=m418ts375q285277457 (дата обращения: 28.11.2024). В англоязычных работах употребление терминов Human-machine systems, Man-machine systems, например, в работе Sheridan T.B., Ferrell W.R. Man-Machine Systems: Information, Control, and Decision Models of Human Performance. Cambridge, MA: MIT Press, 1974. Термин «man-machine systems» впервые появился в англоязычной литературе в 1951 году в работе Пола М. Фиттса «Human Engineering for an Effective Air-Navigation and Traffic-Control System». В этой работе Фиттс исследовал взаимодействие человека и машины в контексте авиационной навигации и управления воздушным движением, закладывая основы для дальнейших исследований в области эргономики и инженерной психологии. Термин «human-machine systems» стал использоваться позже, в 1960-х годах, по мере развития исследований в области взаимодействия человека и компьютера. Одним из ключевых трудов того времени является статья Дж. С. Р. Ликлайдера «Man-Computer Symbiosis», опубликованная в 1960 году, где обсуждается концепция тесного сотрудничества между человеком и компьютером. • Fitts P. M. Human Engineering for an Effective Air-Navigation and Traffic-Control System. Washington, D.C.: National Research Council, Committee on Aviation Psychology, 1951. Режим доступа: https://books.google.com/books/about/Human_Engineering_for_an_Effective_Air_n.html?id=I3MRcAAACAAJ (дата обращения: 27.11.2024), Licklider J. C. R. Man-Computer Symbiosis. IRE Transactions on Human Factors in Electronics, 1960, HFE-1(1), pp. 4-11. Режим доступа: https://groups.csail.mit.edu/medg/people/psz/Licklider.html (дата обращения: 27.11.2024).
6. Лейбниц Г. В. Сочинения в четырех томах. Том 1. – М.: «Мысль», 1982. – С. 413-429. Режим доступа: http://vzms.org/monada.htm (дата обращения: 27.11.2024).
Почему Лейбниц уделяет внимание математическим операциям ума как первому предмету автоматизации? Здесь надо учитывать то, что математика в тот период рассматривалась философами как образец организации мышления, который может выполняться как человеком, так и машиной в определенной конфигурации.
Позже Норберт Винер (1894-1964)7, отец кибернетики, назовет Лейбница первым, кто высказал идеи современного программирования. И даже в художественной литературе, такой как в свое время культовый роман «Криптономикон» Нила Стивенсона8, Лейбниц представлен как родоначальник всего цифрового мира. Анализ замысла Лейбница заставляет нас ввести еще три рамки, задающие дополнительные границы пространства нашей онтологической работы.
7. Норберт Винер – американский математик и философ, основоположник кибернетики, науки об управлении и связи в сложных системах (человеческих, механических и биологических).
8. Стивенсон Н. Криптономикон / Пер. с англ. Е. Доброхотовой-Майковой. М.: АСТ, 2014. 912 с.
§ 3. Пространство онтологической работы
Первая из рамок очевидна: назовем ее «понятием «машины». Или, точнее – понятием «машинизации».
Вторая также очевидна: это антропологическая рамка. Она вводит в поле нашей работы определенное понимание «человека». Однако, на схеме я пока обозначу ее пунктиром. По исходному замыслу эта проблематика должна была стать предметом рассмотрения в четвертой лекции. Сегодня мне кажется, что мы не сможем систематически ввести представления о человеке, соразмерные построяемой рабочей онтологии. Поэтому придется ограничиться философско-методологическим комментарием.
Третья рамка, имплицитно присутствующая в размышлениях Лейбница, менее очевидна. Эта рамка указывает на тему сегодняшней лекции. Речь идет о тех представлениях об интеллектуальных процессах, которые по замыслу наших героев должны быть машинизированы. На схеме я не буду рисовать те представления, которые разрабатывал Лейбниц. Я сразу введу в этом фокусе идею МД. Позже станет понятно, почему.
В дальнейшем мы практически не будем возвращаться к этой пред-истории «умных машин» и, как я уже сказал, сосредоточимся на «истории» вопроса, которую имеет смысл начинать с работ Бэббиджа (1791-1871)9, поставившего перед собой задачу «машинизации» разностного способа вычислений. Этот способ был нужен для расчета таблиц логарифмов, а с их помощью можно вычислять произведения больших чисел для военной и строительной инженерии, физики и астрономии, банковских операций.
9. Чарльз Бэббидж – британский математик, изобретатель, философ и инженер-механик.
Чарльз Бэббидж также, вероятно, первым поставил задачу создания «универсальной машины», которая могла бы хранить и использовать данные, подобно тому, как это делает человек, пользуясь способностями памяти. Он назвал эту машину «аналитической». Роль «памяти» в это машине выполнял специальный блок, который назывался «хранилищем». Это было похоже на оперативную память в современных компьютерах – там сохранялись промежуточные результаты и данные, с которыми работала машина. Также использовались перфокарты – для ввода данных и программирования – они определяли порядок операций, которые машина должна была выполнить.
Как Вы понимаете, этот проект реализовывался на последней стадии «первой промышленной революции» и угас на пороге «второй», столкнувшись с рядом кардинальных проблем масштабирования новой СРТ, необходимой для проектирования и производства «умных машин».
Этот проект мы подробнее разберем в одной из следующих лекций.
На слайде вы видите, все названные четыре рамки и место для рабочей онтологической картины.
Другими словами, я хочу вместе с вами понять, как умные машины нового поколения, типологию которых я потом введу, изменят мир мыследеятельности и пространство замысливания и реализации предпринимательских проектов. В первой лекции мы будем обсуждать с вами первую рамку темы, что такое мышление, а наше базовая установка: ввести представление о мыследеятельности.
Я изложил замысел, ввел базовую схему организации рабочего процесса и рабочего пространства, сделал несколько исторических ссылок. Исторический блок будет все время присутствовать.
Как вы знаете, я пользуюсь крылатым выражением, что история это не то, что было, а то, что может быть еще хотя бы один раз.
Однако, мы должны учитывать, что без введения схемы мыследеятельности нельзя ответить на вопрос, какими представлениями о мышлении пользуется Лейбниц. Как и любой другой философ. Даже обращаясь к текстам, но, не зная схему мыследеятельности, ничего в текстах этих философов не понять. Поэтому я не рекомендую неофитам их начинать читать: будет бессмысленное времяпровождение. Только после того, как вы введете схему мыследительности на определенном уровне ее детализации, можно будет туда поместить этих прекрасных мыслителей с их частичными идеями.
В итоге я хочу:
во-первых, нанести на схему МД основные программы создания «умных машин»,
во-вторых, ввести представления о машинизации интеллектуальных процессов;
в-третьих, прорисовать как исторически менялась СРТ по проектированию и производству умных машин на волнах промышленных революций;
в-четвертых, выделить те ограничения, с которыми с высокой вероятностью столкнуться исследования интеллектуальных процессов, проектирование и производство «умных машин» на первой стадии новой (третьей) промышленной революции.
Начнем вводить первую рамку, сделав два вступительных замечания.
§ 4. Расхожие представления о том, «что такое мышление»
Если вы потратите несколько часов для обзора научных статей в сфере, которая обозначена термином «искусственного интеллекта» и еще несколько часов для посещения живых дискуссий как онлайн, так и оффлайн, то вы быстро обнаружите огромную разноголосицу в понимании «мышления», конкуренцию и серьезные различия в плане отнесения тех или иных феноменов к сфере мышления.
Такую же разноголосицу Вы обнаружите задав вопрос «что такое мышление?» GPT-4, не обученному предварительно для ответа на этот вопрос в рамках какой-то задачи, а пользующегося общедоступной базой из авторитетных статей.
В целом в самых разных аудиториях под «мышлением» обычно понимается: рассуждение и выводы по правилам на основании посылок; распознавание и обработка ощущений из внешнего мира; абстрагирование понятий от чувственных образов; выявление закономерностей и прогнозирование будущего; решание задач и проблем; понимание речи и знаков и поддержание диалога; осознание себя мыслящим, интроспекция –наблюдение феноменов своего сознания; работа нейронной сети живого человеческого мозга; адекватные ответы в диалоге, понимание текстов и генерация осмысленных текстов; успешные действия в ситуации, планирование и организация действия своего и других; ассоциации между разными образами; случайные процессы, которые на большом количестве транзакций дают устойчивый полезный результат; адаптация и перестройка себя в новой ситуации; вычисления и преобразования формул и т.д.
Этот список не полный. Возможно, кто-то не нашел в нем своей собственной версии. Но продолжать расширять список бессмысленно. Ибо он для нас пока лишь тень на стене в пещере, как выразился бы Платон10.
10. Платон. Государство. Книга седьмая. (514a-520a). Греческий текст (Проект «Perseus»). Перевод А. Н. Егунова. Примечания (А. А. Тахо-Годи). Режим доступа: https://gtmarket.ru/library/basis/4369 (дата обращения: 27.11.2024).
Забегая вперед, скажем, что при попытке провести инвентаризацию типов в сфере умных машин мы окажемся перед лицом еще более масштабного списка из проектов, продуктов и подходов, причудливо пересекающихся между собой. Одна из задач, которую нам предстоит решить – привести эти данные в какой-то относительный «порядок», полезный для планирования действий в этой сфере.
§ 5. Отношение программ в ИИ и исследований мышления
Между разработками «умных машин» и исследованиями интеллектуальных процессов (мышления – в широком значении этого термина) существует важная зависимость. Со стороны радикальных технарей-конструктивистов можно услышать, что «знать» можно только то, что вы можете смоделировать в искусственной среде. Может быть это слишком резкий тезис. Скажем мягче. Разработка умных машин – это сегодня неотъемлемая часть исследований интеллектуальных процессов и, более узко, «мышления» (человека).
В предисловии к переводу на русский язык статьи одного из основателей всего мира информационных технологий Тьюринга Софья Яновская, известный математический логик, говорит что «…создание таких машин требует… более глубокого анализа процессов, связанных с умственной деятельностью человека»11.
11. Яновская С. А. Предисловие к русскому переводу // Тьюринг А. Может ли машина мыслить? С приложением статьи Дж. фон Неймана «Общая и логическая теория автоматов» / Пер. с англ. Ю. А. Данилова; ред. и предисл. С. А. Яновской. – М.: Государственное издательство физико-математической литературы, 1960. – 66 с.– С. 3.
Она полагала, что ряд программ построения «умных машин» целесообразно рассмотреть как эвристичные представления об устройстве мышления человека и считала, что Тьюринг и фон Нейман стоят на такой же точке зрения: «Моделирование умственной деятельности человека автоматами позволяет…осветить такие черты в структуре человеческого мозга и нервной системы, к которым раньше вообще не было доступа… Вопрос «могут ли машины мыслить?» занимает их отнюдь не с точки зрения построения фантастического общества, в котором машины будут соревноваться с людьми. Он занимает их прежде всего потому, что с помощью правильной его постановки они надеются выяснить качественное различие между физическими и умственными возможностями человека, провести четкое разграничение между ними…Не машина, а человек, его мозг и умственные возможности находятся в центре внимания обоих авторов.»12
Программа создания «умных машин» стала в ХХ веке одной из магистральных линий исследования человеческой реальности и человеческих интеллектуальных процессов. Да и сам Тьюринг в своей знаменитой основополагающей статье говорит: «В процессе попыток имитировать взрослый человеческий разум мы неизбежно начинаем многое понимать [размышлять] о процессе, который привел его к текущему состоянию»13.
12. Там же. С.3
13. Там же С.7
То же самое, но другими словами говорит один известнейших практиков и идеологов ИИ Марвин Мински: «…для столь сложной вещи, как мышление или мозг, единственный способ проверить теории состоит в том, чтобы построить модель и посмотреть, что она делает»14.
Дуглас Хофштадтер (род.1945), автор книги «Гёдель, Эшер, Бах: Эта бесконечная золотая нить» утверждает, что моделирование процессов мышления с помощью умных машин является способом исследовать фундаментальные вопросы о природе сознания и интеллекта15.
14. «It seems to me that for anything as complicated as the mind or brain, the only way to test a theory is to simulate it and see what it does. », Мински, М. Discover Interview: Marvin Minsky. – Discover Magazine, январь 2007. – Доступно по ссылке: https://www.discovermagazine.com/the-sciences/discover-interview-marvin-minsky (дата обращения: [25.10.24.]
15. Хофштадтер Д. Гёдель, Эшер, Бах: эта бесконечная гирлянда. – Самара: Издательский Дом «Бахрах-М», 2001. – 752 с.
Рэй Курцвейл (род. 1948), известный футурист и изобретатель, также рассматривает ИИ как инструмент для более глубокого понимания работы человеческого мозга и сознания. В своих работах он утверждает, что воссоздание и симуляция человеческого интеллекта с помощью ИИ позволит лучше понять принципы работы разума16.
Джон Хаугеланд (1945-2010) достаточно популярный философ и лидер мнений про искусственный интеллект выпустил книгу «Проектирование разума II: Философия, психология, искусственный интеллект», опубликованную издательством MIT. Это попытка понять, как устроен и работает разум (мышление, интеллект) через его конструкцию. Он пишет: «…искусственный интеллект, как попытка создать интеллектуальные артефакты и системы, способные мыслить самостоятельно, является центральным элементом проектирования разума. В конечном итоге, естественный интеллект, особенно человеческий, остается главным объектом исследования… Проектирование разума – это психология методом обратного проектирования»17.
16. Курцвейл Р. Эволюция разума: как развитие искусственного интеллекта изменит будущее цивилизации / пер. с англ. Т. П. Мосоловой. – М.: Бомбора, 2024. – 352 с.
17. “Thus, the field of artificial intelligence (AI), the attempt to construct intelligent artifacts, systems with minds of their own, lies at the heart of mind design. Of course, natural intelligence, especially human intelligence, remains the final object of investigation, the phenomenon eventually to be understood. What is distinctive is not the goal but rather the means to it. Mind design is psychology by reverse engineering”. Haugeland J. Mind Design II: Philosophy, Psychology, Artificial Intelligence. – Cambridge, MA: MIT Press, 1997. – 476 p. Режим доступа: https://archive.org/details/minddesigniiphil0000unse (дата обращения: 27.11.2024). – С.1.
К этому тезису мы еще будем неоднократно возвращаться в ходе дальнейшего обсуждения.
Вместе с тем многочисленные инженерные разработки «умных машин» актуализировали огромное количество мифов и заблуждений, возникших ранее в философии и социальных науках при анализе «интеллектуальных» процессов и социальной реальности.
Разработчики на пути создания умных машин как бы заново проходят историю философии своим собственным телом и за средства инвесторов, финансирующих этот процесс, при этом склонны повторять некоторые ошибки прошлых теорий мышления. Удивительно, как в самых передовых инженерных областях воспроизводятся идеи, а иногда и ошибки и заблуждения, характерные для философии 300-летней давности. Теперь мы можем обратиться к анализу названных больших программ этих исследований и разработок.
Конец ознакомительного фрагмента
Полная версия курса. Перейти…