Курс «Эффективные алгоритмы» для МФТИ
- 2024-09-21: Выбираем удобное время созвонов ← Advanced Algorithms
- 2024-09-09: Презентация курса «на осень 2024» ← Advanced Algorithms
- 2024-05-02: Не портите страницы задач, оформляйте правильно ← Advanced Algorithms
- 2024-04-18: Обзор квестов курса ← Advanced Algorithms
- 2024-03-28: Эксперимент — улучшаем старые решения ← Advanced Algorithms
- 2024-03-28: Python-решения — давайте потренируемся их сделать питонистей ← Advanced Algorithms
- 2024-02-26: Feedback ← Advanced Algorithms
- 2024-02-14: Регистрируемся, начинаем работать, выбираем удобное время созвонов ← Advanced Algorithms
- 2023-12-28: Разбор задачи «Независимое множество ребер» ← Advanced Algorithms
- 2023-12-22: Разбор задачи «Управление загрязняющими продуктами» ← Advanced Algorithms
- 2023-12-17: Разбор задачи «Управление Дисциплинами» ← Advanced Algorithms
- 2023-11-29: Разбор задачи «Домостроительство» ← Advanced Algorithms
Курс лекций «Эффективные алгоритмы» для 6 курса МФТИ.
- Преподаватель
- С.А. Фомин
Для ФУПМов 6 курса, желающих записаться на курс по выбору «Эффективные алгоритмы», нужно:
- Зарегистрироваться здесь. Залогинится.
- Зайти на страницу настроек, указать свой email и подтвердить его.
- На своей личной странице (это не страница настроек, это то, что сверху слева, с иконкой человечка), написать хотя бы ФИО и группу.
- Боже, как много народу с рассеянным вниманием уже до сюда не дочитывает.
- Присоединится к телеграмм-группе.
- Отметится в этом голосовании:
Записываемся на курс «Advanced Algorithms-2024»?
|
Вы должны войти в систему, чтобы участвовать в этом голосовании.
- Первое установочное занятие будет 6 сентября, в 18-30 в 907 КПМ
Формат flipped classroom — т.е. по существующим материалам не будем повторять лекции, встречаться будем только для семинаров, и активной работы (решение задач, разбор сложных моментов, что-нибудь интересное придумаю) по заранее изученным материалам.
Вопросы пишите на почту, или задавайте в группе.
- Проблемы → Стасу Фомину
В списке вы можете видеть разные цифры, отражающие вашу активность по темам курса. В конце — некоторые суммарные метрики, рассчитанные по волшебным формулам.
Если вы в зеленой группе — вы кандидат на «отлично автоматом».
Содержание
- 1 Блок 1 — Алгоритмическая практика
- 2 Блок 2 — «Бизнес-моделирование»
- 3 Блок 3 — Моделирование труднорешаемых задач
- 4 Блок 4 — Теоретический
- 5 Бонусные квесты
- 6 Материалы
Блок 1 — Алгоритмическая практика
Концептуально:
- Win-Win!
- Абсолютно практические задачи с собеседований.
- LeetCode
- CodeChef
- SpojCode
- Сотни решенных и нерешенных
- Условно поделены на «Dynamic Programming», «Greedy», «Random», «Sorting», «Numbers»
- Нужно быть залогиненным
- Скрыто из интернета
- Изучайте Решенные практические задачи (Их там 1074)
- Надо решить N задач из 4 разных разделов. На Python.
- 8 если до 2024-11-01
- А если нет, просто блокируется доступ к другим квестам (отчисляем).
- Кроме может ОЧЕНЬ особых случаев.
- За задачи из CodeChef и SpojCoding будут дополнительные бонусные очки (1 балл из настоящей 10 бальной оценки!), их решать сложнее, там не подсказывают тест вызвавший ошибку, там могут быть жесткие TL, надо больше стараться, и да, их надо решать именно на Python (любом, который есть на сервисе, хоть PyPy) оптимизировать вам могут помочь статьи:
- Бонусные задачи вполне решаются, если их не боятся → вот из последних решений → Участник:Mishaglik/Solutions/Spoj/FRQPRIME
- Выбирайте задачи из Открытые практические задачи, переходите к редактированию по «Беру…» →
- помечайте их как {{reserve-task|~~~~~}}
- Зарезервированные задачи убираются в Зарезервированные практические задачи
(Их там 90)
- Не нужно брать десятки задач на себя сразу, и освобождайте то, что не получается.
- Решенное
- Ну смотрите, как оформлено в прошлые годы
- Решение на подстранице вашей личной страницы
- Вики-ссылка на задачу
- Python-код в «<source lang="python"></source>»
- Метка «{{checkme}}», когда решите.
- Внизу вставка всего этого по клику →
- Они попадут в Категория:На проверку
(Их там 49)
- Как легче решать Python
- Загрузка данных
- Выбирайте более свежий CPython или PyPy.
Блок 2 — «Бизнес-моделирование»
Моделирование труднорешаемых задач и решение из промышленными солверами. Концептуально:
- Win-Win!
- Бизнес-аналитикам, алгоритмистам, прожект и продукт-менеджерам.
- Идем на https://алгоритмы.испран.рф
- В папке «adv2022-course-pyomo-business-optimization» — курсы.
- Если совсем новые в юпитер-ноутбуках — см. jupyter-intro
- Параллельно можно смотреть воркшоп по Pyomo, ну или книги.
- Можно править, комментировать, но без вандализма, полезные улучшения (визуализации, исправления ошибок → бонус).
- Там будет видео в каждом питон-ноутбуке.
- Учимся на готовых решениях коллег или разборах автора курса - Решенные бизнес задачи, ну и в папке «optprob» «adv2022-course-pyomo-business-optimization курса»
- Уровень 1 — «потренироваться на кошках» — решите какую-нибудь уже решенную задачу, постарайтесь оформлять максимально компактно и понятно:
- используйте хелперы
- выделите построение модели в функцию от параметров
- максимально понятные русскоязычные атрибуты модели.
- сравните с решением — пинганите меня на ревью.
Потом собственно решение нерешенной задачи:
- Надо решить одну! нерешенную задачу, но очень желательно сделать это красиво!
- Воркфлоу «взятия задачи» аналогичен блоку «Практикуемся_В_Алгоритмах»
- Только здесь, в вики, на «странице решения» обсуждаем постановку (если что-то непонятно), а решением будет юпитер-ноутбук подпапке «homework/2024/autumn» на алгоритмах.
- Если все совсем шикарно — бонусные очки (если задача окажется сложной — тоже).
- Выбирайте задачи из Открытые бизнес-задачи, переходите к редактированию по «Беру…» →
- Зарезервированные задачи убираются в Зарезервированные практические задачи
- Оформляем свои ноутбуки в подпапке «homeworks/2024-autumn», заведите там подпапку по вашему логину, желательно без пробелов. Там же можно сохранять какие-то версии обучающих ноутбуков, если хотите с ними жестко поиграть.
Блок 3 — Моделирование труднорешаемых задач
- Обязательно посмотрите
Цели: для осеннего курса 2023, где собрались скорее заинтересованные практикой, чем сложностью задач, можно
- Сделать одну задачу целиком (визуализация, постановка в ЦЛП и сведение от 3SAT)
- Или пару задач «поверхностно» — постановка + визуализация (это легкая часть), без части про сведение от 3SAT и тестирования (это может быть очень головоломно).
- Можно сделать и больше, такой же блок, может заменить решение задачи из Моделирование бизнес-задач, если те почему-то не понравились.
- Может можно будет даже сделать и меньше, если будет сделано качественно (красивая визуализация, или сложная задача и т.п) — т.е. не надо гнать количество, лучше сделать хорошо и красиво.
- Разумеется, можно использовать все, что найдете в интернете (код, статьи, книги), или подскажут нейросети (но они обычно подсказывают неверно).
Проблема текущих подходов.
Проблема текущих подходов к преподаванию вычислительной сложности и труднорешаемых задач:
- «ненужная заумь для ботанов»
- «всякой фигни как матло у нас нет, у нас проектный подход»© (день открытых дверей МФТИ).
- множество книг, слайдов, видео и т.п. — но все как правило перепев «ГД», на досках или одноразовых веселых видео.
- но не «живые модели»!
Результат .
- Нет навыков проверяемых доказательств
- Не получаются навыки работы с труднорешаемыми задачами.
- Мучать «эвристики» и «нейросети» не приходя в сознание.
- «Какая у вас задача» — ну мы тут «GAN» сети пробовали, вот теперь трансформеры… — Задача то какая?
- Мучать «эвристики» и «нейросети» не приходя в сознание.
Что делать?.
- Научится формализованно формулировать
- ЦЛП
- 3SAT
- Использовать решатели
- ЦЛП (cbc, coin, SCIP, CPLEX, GUROBI, COPT, MIPT…)
- SAT (см. SAT-Races [1]).
Тогда можно .
- Часто решить задачу для реальных данных сходу
- Или покрутить постановку чтобы задача решалась (релаксация бизнес-ограничений).
- Начать тестировать
- Алгоритмы полиномиальные в среднем
- Приближенные алгоритмы с гарантией точности
- Вероятностные алгоритмы
- Эвристики
- Доказать труднорешаемость
- Конструктивное сведение кодом, тестирование
- Потом статья с объяснением.
Конструктивные алгоритмические доказательства .
Что вы получите .
- → Бизнес-аналитик-алгоритмист! (нарасхват!)
- → Курсовые-дипломы-статьи в JN
- В любой ситуации
С чем работаем .
- Настоящие классические задачи в одном месте (ГД+ВК+…)
- Open Classic Hard Problems
- Не пугайтесь, вам достаточно изучить одну задачу… но можно и все.
- Не «книга, толщиной защищающая от прочтения»
- Не пугайтесь, вам достаточно изучить одну задачу… но можно и все.
- Open Classic Hard Problems
- Там (см. беджики-ссылки)
- Постановки
- Наброски ноутбуков для всех задач в Lab17
- Частично готовая модель
- тестовые данные (генератор)
- визуализация
- сведение к ЦЛП через Pyomo
- сведение с 3SAT к задаче
- вероятностное тестирование
- видео с разьяснениями
Начать с простого .
- Hardprob/Maximum Set Packing
- Hardprob/Minimum Set Cover
- Hardprob/Maximum Cut
- Hardprob/Maximum Set Splitting
Ваш квест .
- Pyomo-сведение к ЦЛП →
— есть Pyomo-формулировка для ЦЛП.,
— есть тестовые данные и визуализация.
- 3SAT-сведение к задаче →
— есть сведение на Python NP-полной задачи к данной.
- Вероятностное тестирование →
Можно доработать — сделать Вероятностное тестирование NPC-сведения!
- Можно
- все для одной задачи,
- можно для разных (исправление ошибки или улучшение — ОК)
Желательно напрямую с 3SAT .
Без классического дерева сведения (но можно копировать функции сведения тех задач).
Как с этим работаем .
- Выбирайте задачи из Open Classic Hard Problems, переходите к редактированию по «Беру…» →
- Зарезервированные задачи просто помечаются в том же списке, для простоты.
- Если видите, что зарезервировано кем-то в прошлом году — можно снять чужое резервирование, и поставить свое.
- Воркфлоу «взятия задачи» аналогичен блоку «Практикуемся_В_Алгоритмах»
- Только здесь, в вики, на «странице решения» обсуждаем постановку (если что-то непонятно), а решением будет юпитер-ноутбук в «лаборатории»..
- Зарезервированные задачи просто помечаются в том же списке, для простоты.
- Текущая лаборатория
- Как поотлаживаться локально через VSCode — потом.
Еще раз обо всем этом на одном слайде .
Файл:Idea-hard-problems-course.svg
Блок 4 — Теоретический
Необязательно (если вы набрали нужные баллы другими блоками), но может быть полезно, у кого аллергия к коду, Pyomo, а хочется что-то читать и решать, как в старые добрые времена. Тут буду упражнения, и простые темы, по которым будут тесты.
Бонусные квесты
Визуализация алгоритмов
Опциональный квест.
- Но которым можно закрыть и весь курс!
Проблема текущих подходов.
См. доклад PyAlgovizualizer — эффективное преподавание алгоритмов
Почему это вам полезно практически? .
- VSCode / CodeServer
- Python — борьба за
- компактность-лаконичность-понятность
- эффективность
- Matplotlib (Must for бизнес-аналитик-алгоритмист!)
- Формулы LaTeX
- OBS и навыки видеодокументирования
Полезно для других блоков .
Почему это вам удобно .
- Вы уже решили задачи для визуализации
- хорошо их помните
- можно их сделать блестящими (ну или наконец понять)!
- Вся среда настроена, коллаборативная, можете помогать друг-другу.
- Хватит чтобы закрыть весь курс
- В 2024ом, по 1 баллу за визуализацию, итого → 8 задач, (2+8) = 10.
- Потом может быть меньше, посмотрим.
- В 2024ом, по 1 баллу за визуализацию, итого → 8 задач, (2+8) = 10.
Что делать?.
- Изучить визуализацию алгоритмов с PyVisualizer
- Проект «algo-visual» на алгоритм.испран.рф (ну или где-то еще), файл «contributing.md»
- Заведите подпапку «algo-visual/homeworks/2024/ВашЛогинНаDiscopal»
- Там создавайте файлы визуализированных алгоритмов, с названиями как у LC задачи
- Можно смотреть, как задачу визуализировали другие — подсмотрите идеи.
Воркфлоу.
Пометьте соотвествующее «решение» «на проверку», как в «Практикуемся В Алгоритмах»
- написав что есть визуализация.
- Я проверю, возможно будет фидбек, как при решении.
Когда все ОК
- Запишите видео «прохождения с объяснением» с помощью OBS
- можно выложить и подшить ссылку, или просто прислать
Получить фидбек — и повторить!
Изучение тестов по Computer Science
ТеорУпражнения
Осенью 2024 достаточно 4 задач из двух тем.
- Нужно быть залогиненным
- Скрыто из интернета
- Надо решить N задач из M разных разделов.
- Либо одну бонусную задачу — считаем, что ее решение закрывает квест.
- Выбирайте задачи из Open Exercises, переходите к редактированию по «Беру…»
- помечайте их как {{reserve-task|~~~~~}}
- Решение на подстранице вашей личной страницы
- Вики-ссылка на задачу
- Решение — можно использовать текст, латех целиком внутри тега «latex», или просто вставки математики внутри тега «m»
- На худой конец — очень аккуратно оформить на листочке, сфотографировать, загрузить файлы (разберетесь).
- Метка «{{checkme}}», когда решите.
- Внизу вставка всего этого по клику →
- Они попадут в Категория:На проверку
- Все как обычно в наших квестах.
- Изучайте чужие решения
- Категория:Решенные задачи
- Смотрите «Ссылки сюда» → решения студентов.
Разбор статей
Важный квест, для тех, кто не хочет ограничится инженерным IT-уровнем.
- Цель — попробовать разобраться в свежей статье, связанной с темой курса.
- Понять постановку, описать максимально просто (оформляем на русском)
- Чем больше иллюстраций — тем лучше, мы никак не ограничены.
- Ссылки на видео, другие лекции, все что найдете в процессе разбора — ограничений нет.
- Если есть доказательства — понять основные идеи
- Если алгоритм — попробовать реализовать.
- Понять постановку, описать максимально просто (оформляем на русском)
В процессе
- Всяко научитесь пользоваться интерфейсом баз статей researchgate, citeseer, arxiv
- Возможно найти опровержение или написать новую статью.
- Поймете, как писать правильную понятную статью, ну или как не писать непонятную.
Оформлять можно
- Вики-статьи (шаблон набросан, презентация получится сама)
- Ну и опыт MediaWiki-разметки полезен — кроме Wikipedia, это самая распространенная вики-разметка (вики системы институтов, компаний, баз знаний), и наверно самая используемая плоская разметка, после Markdown (хелп тут).
- git-репо где угодно с beamer-презентацией или jupyter-ноутбук (возможно погрузим в какую-нибудь лабу для быстрой совместной работы).
- Выбираете «незанятую» страницу из Категория:Разбор актуальных статей
- «Резервируете» ее.
- Работаете, можете меня пинговать — буду смотреть-поправлять в процессе.
- Если вот знаете интересную статью, как-то связанную (темы, задачи — сложность, алгоритмы в среднем и т.п.) — можете договорится (свяжитесь), и разбирать ее.
- Бонус — 3-6 баллов (от качества и сложности).
Для избранных
- Обычно согласовывается с посещающими студентами, выбор некой темы, связанной и с алгоритмами, сложностью и областью научно-практических интересов студента.
ТеорТемы
Тут отобраны только детские темы про алгоритмы, никакой сложности, будем проверять, то что вы их читали тестами на созвонах — и так, можно будет набрать «переключающий балл» (отберем персентилями по сумме всех результатов). Плюс можно еще балл за задачи, ну или как-то вместе может они наберут балл, или как-то учтется в 10-бальной оценке.
Замечания по каждой презентации можно (и нужно) писать на вкладку «Обсуждение», для соответствующего PDF-файла.
- Жадный алгоритм в задачах о покрытии
- Жадный алгоритм покрытия для почти всех исходных данных
- Жадный алгоритм в задаче о рюкзаке
- Динамическое программирование для задачи о рюкзаке
- Полностью полиномиальная аппроксимационная схема (FPTAS) для задачи о рюкзаке
- Полиномиальный в среднем алгоритм для задачи упаковки
- Полиномиальный в среднем алгоритм для задачи о рюкзаке
- Полиномиальный в среднем алгоритм для SAT
- Вероятностный подсчет числа выполняемых наборов для ДНФ
- MAX-SAT: вероятностное округление
- MAX-CUT: вероятностное округление
- MAX-SAT: дерандомизация
- Приближенный алгоритм для метрической задачи коммивояжера
- Формально об алгоритмах. Вычислительные модели
- Временная и пространственная сложность алгоритмов
- Полиномиальные сводимости и NP-полные задачи. Классы NP, coNP, NPC
Материалы
Наверно не пригодятся для курса 2022 года.
Книга
Специальная верстка для чтения с ноутбуков и КПК:
- альбомная ориентация
- крупные беззасечные шрифты
Кому не нравится — пишите обоснованные протесты (почему, конструктивные предложения).
Пишите замечания по содержимому — про проблемы с версткой и библиографией не писать, все там только в процессе.
File:Book-advanced-algorithms.pdf
Смешное — реакция «обычных программистов»
Примечания и ссылки
- Рекомендуется прочитать хотя бы первые лекции по введению в Python и научные вычисления.
Полезная сопутствующая литература по курсу.
- Очень хорошие лекции по классической теории сложности, написанные одним из корифеев оной: Introduction to Complexity Theory by Oded Goldreich
- Более краткий курс по классической теории сложности, университет Technion.
- Еще один классический курс лекций по теории сложности от László Lovász.
- А. Китаев, А. Шень, М. Вялый, Классические и квантовые вычисления — замечательная книга. Содержит отличное введение в теорию сложности.
- С. Дасгупта, Х. Пападимитриу, У. Вазирани, Алгоритмы [2]
[ Хронологический вид ]Комментарии
Можно ввести какое-то ограничение на количество забронированных задач? Люди бронируют по 10 задач и за неделю не делают ни одной из них.
Да, я учел, ваш коммент, стал «срубать блокировки» старше 5 дней. Ограничение по количеству увы, в таком простом ворфлоу сделать сложно, остается рассчитывать на разумность и совесть (что не залочит все задачи) участников.
Войдите, чтобы комментировать.