Курс лекций «Сложность алгоритмов» (ИСПРАН, 3 курс МФТИ) — различия между версиями
StasFomin (обсуждение | вклад) |
StasFomin (обсуждение | вклад) |
||
Строка 3: | Строка 3: | ||
|style=max-width:35% | |style=max-width:35% | ||
}} | }} | ||
− | |||
<!-- | <!-- | ||
+ | * [[Special:MediawikiQuizzer/Algs-3-course-ispras-weekly|Cозвонный тест]] | ||
* [[Special:MediawikiQuizzer/Python|Приветственная созвонная проверка]] | * [[Special:MediawikiQuizzer/Python|Приветственная созвонная проверка]] | ||
--> | --> |
Версия 16:23, 4 марта 2024
- 2024-04-18: Обзор квестов курса ← Advanced Algorithms
- 2024-03-28: Эксперимент — улучшаем старые решения ← Advanced Algorithms
- 2024-03-28: Python-решения — давайте потренируемся их сделать питонистей ← Advanced Algorithms
- 2024-02-26: Feedback ← Advanced Algorithms
- 2024-02-14: Регистрируемся, начинаем работать, выбираем удобное время созвонов ← Advanced Algorithms
- 2023-12-28: Разбор задачи «Независимое множество ребер» ← Advanced Algorithms
- 2023-12-22: Разбор задачи «Управление загрязняющими продуктами» ← Advanced Algorithms
- 2023-12-17: Разбор задачи «Управление Дисциплинами» ← Advanced Algorithms
- 2023-11-29: Разбор задачи «Домостроительство» ← Advanced Algorithms
- 2023-11-28: Разбор задачи «Размещение административных учреждений» ← Advanced Algorithms
- 2023-11-24: Что делать, если солвер непонятно ругается ← Advanced Algorithms
Проходим квест:
- Зарегистрироваться здесь. Залогинится.
- Зайти на страницу настроек, указать свой email и подтвердить его.
- На своей личной странице (это не страница настроек, это то, что сверху слева, с иконкой человечка), написать хотя бы ФИО и группу.
- Боже, как много народу с рассеянным вниманием уже до сюда не дочитывает.
- Присоединится к телеграмм-группе.
- Отметится в этом голосовании:
Записываемся на курс «Сложность алгоритмов-2024»?
|
Вы должны войти в систему, чтобы участвовать в этом голосовании.
Содержание
- 1 Книга
- 2 Темы
- 3 Тренировка
- 4 Практика
- 5 Моделирование труднорешаемых задач
- 6 Теоретические упражнения
- 7 Книга
- 8 Примечания и ссылки
- 9 Полезная сопутствующая литература по курсу.
Семестровый курс по выбору для студентов 3-го курса ФУПМ МФТИ.
- Лекторы
- Стас Фомин,
Формат проведения лекций: демонстрация с проектором с параллельным обсуждением, проверка тестами знаний по предыдущим темам. Подразумевается параллельное изучение студентами электронной версии курса, просмотра видео лекций, решение задач.
Ведется список посещений.
В карантинное время — занимаемся самостоятельно по темам из раздела «Фокус», читаем книгу, смотрим видео и слайды, решаем задачи, см. ниже.
Книга
На растерзание отдается свежая сборка — можно искать в ней ошибки (они 100% есть — даже орфографические).
Специально искать опечатки смысла мало, проще действовать по принципу WIN-WIN, читать с помощью PDFXChange или другого ридера, позволяющего делать комментарии, делать пометки по ходу чтения и отсылать (каждый день) помеченный вариант на mailto:stas-fomin@yandex.ru. И каждый день скачивать заново — ибо книга будет пересобираться и меняться постоянно.
?
- [zoo]
Темы
Пройдено
Фокус
- Формально об алгоритмах. Вычислительные модели
- Временная и пространственная сложность алгоритмов
- Жадный алгоритм в задачах о покрытии
- Жадный алгоритм в задаче о рюкзаке
Не пройдено
- Полиномиальные сводимости и NP-полные задачи. Классы NP, coNP, NPC
- Вероятностные вычисления. Классы RP, coRP, ZPP, BPP
- Динамическое программирование для задачи о рюкзаке
- Полностью полиномиальная аппроксимационная схема (FPTAS) для задачи о рюкзаке
- Полиномиальный в среднем алгоритм для задачи о рюкзаке
- Полиномиальный в среднем алгоритм для SAT
- Полиномиальный в среднем алгоритм для задачи упаковки
- Приближенный алгоритм для метрической задачи коммивояжера
- Вероятностная проверка тождеств
- MAX-SAT: вероятностное округление
- MAX-SAT: дерандомизация
- MAX-CUT: вероятностное округление
- Вероятностный подсчет числа выполняемых наборов для ДНФ
Может и не будем
- Вероятностно проверяемые доказательства. PCP-системы. PCP-теорема
- PCP и аппроксимируемость
- Полиномиальная иерархия
- Схемная сложность
На этих страницах слайды презентаций, задачи, и т.п. Замечания по каждой презентации можно (и нужно) писать на вкладку «Обсуждение», для соотвествующего PDF-файла.
В книге (и прошлых лекциях) всего сильно больше, но мы сфокусируемся именно на этих темах — на экзамене спрашивать будем только по ним. Но можно конечно читать и больше, найденные ошибки зачтутся, а знания скорее всего пригодятся на шестом курсе.
Тренировка
Проверь себя, помнишь ли элементарные понятия и факты из курса.
Практика
Концептуально:
- Win-Win!
- Абсолютно практические задачи с собеседований.
- LeetCode
- CodeChef
- SpojCode
- Сотни решенных и нерешенных
- Условно поделены на «Dynamic Programming», «Greedy», «Random», «Sorting», «Numbers»
- Нужно быть залогиненным
- Скрыто из интернета
- Изучайте Решенные практические задачи (Их там 1027)
- Надо решить N задач из 4 разных разделов. На Python.
- 8 если до 2024-03-08
- 12 если до 2024-04-08
- 16 если до 2024-05-08
- За задачи из CodeChef и SpojCoding будут дополнительные бонусные очки (2 балла из настоящей 10 бальной оценки!), их решать сложнее, там не подсказывают тест вызвавший ошибку, там могут быть жесткие TL, надо больше стараться, и да, их надо решать именно на Python (любом, который есть на сервисе, хоть PyPy) оптимизировать вам могут помочь статьи:
- Бонусные задачи вполне решаются, если их не боятся → вот из последних решений → Участник:Mishaglik/Solutions/Spoj/FRQPRIME
- Выбирайте задачи из Открытые практические задачи, переходите к редактированию по «Беру…» →
- помечайте их как {{reserve-task|~~~~~}}
- Зарезервированные задачи убираются в Зарезервированные практические задачи
(Их там 55)
- Не нужно брать десятки задач на себя сразу, и освобождайте то, что не получается.
- Решенное
- Ну смотрите, как оформлено в прошлые годы
- Решение на подстранице вашей личной страницы
- Вики-ссылка на задачу
- Python-код в «<source lang="python"></source>»
- Метка «{{checkme}}», когда решите.
- Внизу вставка всего этого по клику →
- Они попадут в Категория:На проверку
(Их там 10)
- Как легче решать Python
- Загрузка данных
- Выбирайте более свежий CPython или PyPy.
Моделирование труднорешаемых задач
- Обязательно посмотрите
Цели: для осеннего курса 2023, где собрались скорее заинтересованные практикой, чем сложностью задач, можно
- Сделать одну задачу целиком (визуализация, постановка в ЦЛП и сведение от 3SAT)
- Или пару задач «поверхностно» — постановка + визуализация (это легкая часть), без части про сведение от 3SAT и тестирования (это может быть очень головоломно).
- Можно сделать и больше, такой же блок, может заменить решение задачи из Моделирование бизнес-задач, если те почему-то не понравились.
- Может можно будет даже сделать и меньше, если будет сделано качественно (красивая визуализация, или сложная задача и т.п) — т.е. не надо гнать количество, лучше сделать хорошо и красиво.
- Разумеется, можно использовать все, что найдете в интернете (код, статьи, книги), или подскажут нейросети (но они обычно подсказывают неверно).
Проблема текущих подходов.
Проблема текущих подходов к преподаванию вычислительной сложности и труднорешаемых задач:
- «ненужная заумь для ботанов»
- «всякой фигни как матло у нас нет, у нас проектный подход»© (день открытых дверей МФТИ).
- множество книг, слайдов, видео и т.п. — но все как правило перепев «ГД», на досках или одноразовых веселых видео.
- но не «живые модели»!
Результат .
- Нет навыков проверяемых доказательств
- Не получаются навыки работы с труднорешаемыми задачами.
- Мучать «эвристики» и «нейросети» не приходя в сознание.
- «Какая у вас задача» — ну мы тут «GAN» сети пробовали, вот теперь трансформеры… — Задача то какая?
- Мучать «эвристики» и «нейросети» не приходя в сознание.
Что делать?.
- Научится формализованно формулировать
- ЦЛП
- 3SAT
- Использовать решатели
- ЦЛП (cbc, coin, SCIP, CPLEX, GUROBI, COPT, MIPT…)
- SAT (см. SAT-Races [1]).
Тогда можно .
- Часто решить задачу для реальных данных сходу
- Или покрутить постановку чтобы задача решалась (релаксация бизнес-ограничений).
- Начать тестировать
- Алгоритмы полиномиальные в среднем
- Приближенные алгоритмы с гарантией точности
- Вероятностные алгоритмы
- Эвристики
- Доказать труднорешаемость
- Конструктивное сведение кодом, тестирование
- Потом статья с объяснением.
Конструктивные алгоритмические доказательства .
Что вы получите .
- → Бизнес-аналитик-алгоритмист! (нарасхват!)
- → Курсовые-дипломы-статьи в JN
- В любой ситуации
С чем работаем .
- Настоящие классические задачи в одном месте (ГД+ВК+…)
- Open Classic Hard Problems
- Не пугайтесь, вам достаточно изучить одну задачу… но можно и все.
- Не «книга, толщиной защищающая от прочтения»
- Не пугайтесь, вам достаточно изучить одну задачу… но можно и все.
- Open Classic Hard Problems
- Там (см. беджики-ссылки)
- Постановки
- Наброски ноутбуков для всех задач в Lab17
- Частично готовая модель
- тестовые данные (генератор)
- визуализация
- сведение к ЦЛП через Pyomo
- сведение с 3SAT к задаче
- вероятностное тестирование
- видео с разьяснениями
Начать с простого .
- Hardprob/Maximum Set Packing
- Hardprob/Minimum Set Cover
- Hardprob/Maximum Cut
- Hardprob/Maximum Set Splitting
Ваш квест .
- Pyomo-сведение к ЦЛП →
— есть Pyomo-формулировка для ЦЛП.,
— есть тестовые данные и визуализация.
- 3SAT-сведение к задаче →
— есть сведение на Python NP-полной задачи к данной.
- Вероятностное тестирование →
Можно доработать — сделать Вероятностное тестирование NPC-сведения!
- Можно
- все для одной задачи,
- можно для разных (исправление ошибки или улучшение — ОК)
Желательно напрямую с 3SAT .
Без классического дерева сведения (но можно копировать функции сведения тех задач).
Как с этим работаем .
- Выбирайте задачи из Open Classic Hard Problems, переходите к редактированию по «Беру…» →
- Зарезервированные задачи просто помечаются в том же списке, для простоты.
- Если видите, что зарезервировано кем-то в прошлом году — можно снять чужое резервирование, и поставить свое.
- Воркфлоу «взятия задачи» аналогичен блоку «Практикуемся_В_Алгоритмах»
- Только здесь, в вики, на «странице решения» обсуждаем постановку (если что-то непонятно), а решением будет юпитер-ноутбук в Lab17.
- Зарезервированные задачи просто помечаются в том же списке, для простоты.
- Всего должно хватать в нашем Lab17
- Как поотлаживаться локально через VSCode — потом.
Еще раз обо всем этом на одном слайде .
Файл:Idea-hard-problems-course.svg
Кому надо 10-баллов — запишите видеоролики по вашим питон-ноутбукам, см. Blog:Advanced Algorithms/2022-12-01 Кто решил бизнес-задачи, запишите по ним видеоролики
Теоретические упражнения
Достаточно 3 задач из двух тем.
- Нужно быть залогиненным
- Скрыто из интернета
- Надо решить N задач из M разных разделов.
- Либо одну бонусную задачу — считаем, что ее решение закрывает квест.
- Выбирайте задачи из Open Exercises, переходите к редактированию по «Беру…»
- помечайте их как {{reserve-task|~~~~~}}
- Решение на подстранице вашей личной страницы
- Вики-ссылка на задачу
- Решение — можно использовать текст, латех целиком внутри тега «latex», или просто вставки математики внутри тега «m»
- На худой конец — очень аккуратно оформить на листочке, сфотографировать, загрузить файлы (разберетесь).
- Метка «{{checkme}}», когда решите.
- Внизу вставка всего этого по клику →
- Они попадут в Категория:На проверку
- Все как обычно в наших квестах.
- Изучайте чужие решения
- Категория:Решенные задачи
- Смотрите «Ссылки сюда» → решения студентов.
Книга
Специальная верстка для чтения с ноутбуков и КПК:
- альбомная ориентация
- крупные беззасечные шрифты
Кому не нравится — пишите обоснованные протесты (почему, конструктивные предложения).
Пишите замечания по содержимому — про проблемы с версткой и библиографией не писать, все там только в процессе.
File:book-advanced-algorithms.pdf
Смешное — реакция «обычных программистов»
Видео
- Update
- Можно не смотреть, технология многопоточных MKV-перестала работать, будет новое видео, небольшими блоками.
Записанное видео лекций Николая Николаевича Кузюрина и Стаса Фомина, за весенний семестр 2013 года.
- http://video-sky.0x1.tv/channels/ispras.ru/lectures/2013/2013-02-21-lectures.uncut.mkv1:23:15 — приближенные алгоритмы с гарантированной точностью, жадные алгоритмы в задаче о покрытии.
- http://video-sky.0x1.tv/channels/ispras.ru/lectures/2013/2013-02-21-lectures.uncut.mkv2:12:00 — временная и пространственная сложность алгоритмов.
- http://video-sky.0x1.tv/channels/ispras.ru/lectures/2013/2013-02-21-lectures.uncut.mkv2:36:30 — NP-полнота и сводимости.
- http://video-sky.0x1.tv/channels/ispras.ru/lectures/2013/2013-02-28-lectures.uncut.mkv0:00:22 — недетерминированные машины Тьюринга, NTIME, NP-полнота, NP-полнота сапера
- http://video-sky.0x1.tv/channels/ispras.ru/lectures/2013/2013-02-28-lectures.uncut.mkv1:19:30 — метрическая задача коммивояжера, алгоритм Кристофидеса.
- http://video-sky.0x1.tv/channels/ispras.ru/lectures/2013/2013-03-07-lectures.uncut.mkv0:03:31 — вероятностная проверка тождеств.
- http://video-sky.0x1.tv/channels/ispras.ru/lectures/2013/2013-03-07-lectures.uncut.mkv0:37:40 — вероятностное округление для MAX-SAT
- http://video-sky.0x1.tv/channels/ispras.ru/lectures/2013/2013-03-13-lectures.uncut.mkv0:03:59 — криптография, 4 курс
- http://video-sky.0x1.tv/channels/ispras.ru/lectures/2013/2013-03-14-lectures.uncut.mkv0:01:10 — Дерандомизация MAX-SAT
- http://video-sky.0x1.tv/channels/ispras.ru/lectures/2013/2013-03-14-lectures.uncut.mkv0:55:40 — Вероятностные классы сложности сложности RP/ZPP.
- http://video-sky.0x1.tv/channels/ispras.ru/lectures/2013/2013-03-20-lectures.uncut.mkv2:02:34 — Вероятностные классы сложности BPP
- http://video-sky.0x1.tv/channels/ispras.ru/lectures/2013/2013-03-21-lectures.uncut.mkv0:00:20 — Полиномиальность в среднем, полиномиальный в среднем алгоритм для SAT.
- http://video-sky.0x1.tv/channels/ispras.ru/lectures/2013/2013-03-28-lectures.uncut.mkv0:00:30 — Рюкзак. Жадный, квазиполиномиальный и PTAS-алгоритм
- http://video-sky.0x1.tv/channels/ispras.ru/lectures/2013/2013-04-04-lectures.uncut.mkv0:01:12 — BPP, полиномиальная иерархия, схемная сложность.
Примечания и ссылки
- Рекомендуем изучить Python. Ресурсов миллиарды, вот, например, хотя бы лекции, а еще лучше — интерактивный учебник.
Полезная сопутствующая литература по курсу.
- Очень хорошие лекции по классической теории сложности, написанные одним из корифеев оной: Introduction to Complexity Theory by Oded Goldreich
- Более краткий курс по классической теории сложности, университет Technion.
- Еще один классический курс лекций по теории сложности от László Lovász.
- А. Китаев, А. Шень, М. Вялый, Классические и квантовые вычисления — замечательная книга. Содержит отличное введение в теорию сложности.
- Лекции Сложность вычислений (3 курс, осень 2019) - лектор -- Мусатов Д.В., трейлер