Текущая версия на 15:21, 15 ноября 2024

Созвонный тест

• Blog:Advanced_Algorithms/2024-09-08_Презентация_курса_«на_осень_2024»

Курс лекций «Эффективные алгоритмы» для 6 курса МФТИ.

Преподаватель

С.А. Фомин

Для ФУПМов 6 курса, желающих записаться на курс по выбору «Эффективные алгоритмы», нужно:

• Зарегистрироваться здесь. Залогинится.
• Зайти на страницу настроек, указать свой email и подтвердить его.
• На своей личной странице (это не страница настроек, это то, что сверху слева, с иконкой человечка), написать хотя бы ФИО и группу.
  • Боже, как много народу с рассеянным вниманием уже до сюда не дочитывает.
• Присоединится к телеграмм-группе  → все, два месяца прошло, набор закрыт.
• Отметится в этом голосовании:

Записываемся на курс «Advanced Algorithms-2024»?

Вы должны войти в систему, чтобы участвовать в этом голосовании.

• Первое установочное занятие будет 6 сентября, в 18-30 в 907 КПМ

Формат flipped classroom — т.е. по существующим материалам не будем повторять лекции, встречаться будем только для семинаров, и активной работы (решение задач, разбор сложных моментов, что-нибудь интересное придумаю) по заранее изученным материалам.

Вопросы пишите на почту, или задавайте в группе.

• Проблемы → Стасу Фомину

В списке вы можете видеть разные цифры, отражающие вашу активность по темам курса. В конце — некоторые суммарные метрики, рассчитанные по волшебным формулам.

Если вы в зеленой группе — вы кандидат на «отлично автоматом».

Блок 1 — Алгоритмическая практика

Концептуально:

• Win-Win!
• Абсолютно практические задачи с собеседований.
  • LeetCode
  • CodeChef
  • SpojCode
  • Сотни решенных и нерешенных
• Условно поделены на «Dynamic Programming», «Greedy», «Random», «Sorting», «Numbers»
• Нужно быть залогиненным
  • Скрыто из интернета
• Изучайте Решенные практические задачи (Их там 1370)
• Надо решить N задач из 4 разных разделов. На Python.
  • 8 если до 2024-11-01
  • А если нет, просто блокируется доступ к другим квестам (отчисляем).
    • Кроме может ОЧЕНЬ особых случаев.
• Старайтесь сделать максимально читаемое решение, и тут хороший повод потренировать стиль PEP-8, см. Blog:Advanced_Algorithms/Python-решения_—_давайте_потренируемся_их_сделать_питонистей
• За задачи из CodeChef и SpojCoding будут дополнительные бонусные очки (1 балл из настоящей 10 бальной оценки!), их решать сложнее, там не подсказывают тест вызвавший ошибку, там могут быть жесткие TL, надо больше стараться, и да, их надо решать именно на Python (любом, который есть на сервисе, хоть PyPy) оптимизировать вам могут помочь статьи:
  • Blog:Advanced_Algorithms/Python-оптимизация_жадного_алгоритма_из_codechef
  • Blog:Advanced_Algorithms/Python-оптимизация_алгоритма_динамического_программирования_из_codechef
  • Blog:Advanced_Algorithms/Путь_хакера_—_решение_задачи_с_codechef_на_питон._С_машинным_кодом
• Бонусные задачи вполне решаются, если их не боятся → вот из последних решений → Участник:Mishaglik/Solutions/Spoj/FRQPRIME

• Выбирайте задачи из Открытые практические задачи, переходите к редактированию по «Беру…» →

• • помечайте их как {{reserve-task|~~~~~}}
• Зарезервированные задачи убираются в Зарезервированные практические задачи

(Их там 118)

• • Не нужно брать десятки задач на себя сразу, и освобождайте то, что не получается.
• Решенное
  • Ну смотрите, как оформлено в прошлые годы
  • Решение на подстранице вашей личной страницы
    • Вики-ссылка на задачу
    • Python-код в «<source lang="python"></source>»
    • Метка «{{checkme}}», когда решите.

• • • Внизу вставка всего этого по клику →
• Они попадут в Категория:На проверку

(Их там 12)

• Как легче решать Python
  • Загрузка данных
  • Выбирайте более свежий CPython или PyPy.

Блок 2 — «Бизнес-моделирование»

Моделирование труднорешаемых задач и решение из промышленными солверами. Концептуально:

• Win-Win!
• Бизнес-аналитикам, алгоритмистам, прожект и продукт-менеджерам.
• Идем на https://алгоритмы.испран.рф

• В папке «adv2022-course-pyomo-business-optimization» — курсы.
  • Если совсем новые в юпитер-ноутбуках — см. jupyter-intro
  • Параллельно можно смотреть воркшоп по Pyomo, ну или книги.
  • Можно править, комментировать, но без вандализма, полезные улучшения (визуализации, исправления ошибок → бонус).
  • Там будет видео в каждом питон-ноутбуке.
• Учимся на готовых решениях^[1] коллег или разборах автора курса - Решенные бизнес задачи, ну и в папке «optprob» «adv2022-course-pyomo-business-optimization курса»
  • Наверное одни из самых простых и вводных:
    • Optprob/Продажа фруктов
    • Optprob/Аренда_склада
    • Optprob/производство продукта
    • Optprob/Планирование производства рождественских игрушек
    • Optprob/Портфель ценных бумаг
  • Некоторые решения правда озвучены студентами и их решения могут так сказать, не следовать лучшим практикам — посмотрите обязательно какие-нибудь разборы от автора курса.
  • Внутри видео могут быть возможно еще неоткрытые бонус-квесты (типа что-то сделать-визулизировать и т.п.)

Уровень 1

«потренироваться на кошках» — решите пару уже решенных задач, постарайтесь оформлять максимально компактно и понятно:

• используйте хелперы
• выделите построение модели в функцию от параметров
• максимально понятные русскоязычные атрибуты модели.
• оформляем свои ноутбуки в подпапке «homeworks/2024-autumn», заведите там подпапку по вашему логину, желательно без пробелов. Там же можно сохранять какие-то версии обучающих ноутбуков, если хотите с ними жестко поиграть.
• сравните с решением, если вроде решение совпадает (или вы уверены, нашли ошибку и решили более правильно) — пинганите меня на ревью.

Цена — 1 балла за две задачи, но это обязательно, чтобы перейти к остальным квестам этого блока. Если найдете более эффективную постановку — например, раньше не решалось быстро через CBC, а теперь решается, ну или раза в два быстрее стало с SCIP, и т.п. — 1-2 балла.

Бонусный квест

который можно совместить с обучением — сделать визуализацию (matplotlib-networkx-seaborn-d3js… что хотите, на худой конец просто таблицей), для какой-нибудь решенной задачи, как в

• Код решения в проекте «adv2022-course-pyomo-business-optimization» в «optprob/Группировка людей.ipynb»,
• Код решения в проекте «adv2022-course-pyomo-business-optimization» в «optprob/Портфель_ценных_бумаг.ipynb»,
• Код решения в проекте «adv2022-course-pyomo-business-optimization» в «optprob/Аренда_склада.ipynb»
• Код решения в проекте «adv2022-course-pyomo-business-optimization» в «optprob/Распределение_рабочих_по_производственным_центрам.ipynb»…

… если ее нет. Это креативная задача, при этом потребует понимания решенной задачи — балл за хорошую визуализацию. Цена: 1-2 балла (ну насколько хорошая будет визуализация)

Уровень 2

решение нерешенной задачи:

• Надо решить одну! нерешенную задачу, но очень желательно сделать это красиво!
• Воркфлоу «взятия задачи» аналогичен блоку «Практикуемся_В_Алгоритмах»
• Только здесь, в вики, на «странице решения» обсуждаем постановку (если что-то непонятно), а решением будет юпитер-ноутбук подпапке «homework/2024/autumn» на алгоритмах.
  • Если все совсем шикарно — бонусные очки (если задача окажется сложной — тоже).
• Выбирайте задачи из Открытые бизнес-задачи, переходите к редактированию по «Беру…» →
• Зарезервированные задачи убираются в Зарезервированные практические задачи

Цена: 1-2 балла (насколько хорошо оформленно, насколько хорошая будет визуализация)

• Можно решать дополнительные задачи (к первой задаче), но наверно всего больше двух пока не надо (нерешенные задачи — ценный ресурс, я его экономлю). Старайтесь сделать качественно, тогда можно будет решать больше.

Уровень 3

записать видеоролик по хорошо решенной задаче (если она сдана, отработаны претензии к оформлению и все такое). Используйте OBS

• Научитесь пользоваться OBS — (см. также [1]), попробуйте использовать экранное рисование ([2]) и сделайте видео живым и понятным.
• См. также → Blog:Advanced Algorithms/2022-12-01 Кто решил бизнес-задачи, запишите по ним видеоролики

Цена: 1 балл, но постарайтесь.

Для истории, презентация от 2022 года: 📺 видео 📺

Блок 3 — Моделирование труднорешаемых задач

Обязательно посмотрите

Цели: для осеннего курса 2023, где собрались скорее заинтересованные практикой, чем сложностью задач, можно

• Сделать одну задачу целиком (визуализация, постановка в ЦЛП и сведение от 3SAT)
• Или пару задач «поверхностно» — постановка + визуализация (это легкая часть), без части про сведение от 3SAT и тестирования (это может быть очень головоломно).
• Можно сделать и больше, такой же блок, может заменить решение задачи из Моделирование бизнес-задач, если те почему-то не понравились.
• Может можно будет даже сделать и меньше, если будет сделано качественно (красивая визуализация, или сложная задача и т.п) — т.е. не надо гнать количество, лучше сделать хорошо и красиво.
• Разумеется, можно использовать все, что найдете в интернете (код, статьи, книги), или подскажут нейросети (но они обычно подсказывают неверно).

Проблема текущих подходов.

Проблема текущих подходов к преподаванию вычислительной сложности и труднорешаемых задач:

• «ненужная заумь для ботанов»
• «всякой фигни как матло у нас нет, у нас проектный подход»© (день открытых дверей МФТИ).
• множество книг, слайдов, видео и т.п. — но все как правило перепев «ГД», на досках или одноразовых веселых видео.
  • но не «живые модели»!

Результат .

• Нет навыков проверяемых доказательств
• Не получаются навыки работы с труднорешаемыми задачами.
  • Мучать «эвристики» и «нейросети» не приходя в сознание.
    • «Какая у вас задача» — ну мы тут «GAN» сети пробовали, вот теперь трансформеры… — Задача то какая?

Что делать?.

• Научится формализованно формулировать
  • ЦЛП
  • 3SAT
• Использовать решатели
  • ЦЛП (cbc, coin, SCIP, CPLEX, GUROBI, COPT, MIPT…)
  • SAT (см. SAT-Races [3]).

Тогда можно .

• Часто решить задачу для реальных данных сходу
  • Или покрутить постановку чтобы задача решалась (релаксация бизнес-ограничений).
• Начать тестировать
  • Алгоритмы полиномиальные в среднем
  • Приближенные алгоритмы с гарантией точности
  • Вероятностные алгоритмы
  • Эвристики
• Доказать труднорешаемость
  • Конструктивное сведение кодом, тестирование
  • Потом статья с объяснением.

Конструктивные алгоритмические доказательства .

Что вы получите .

• Навыки моделирования
  • в PYOMO, сразу см. воркшоп, Зеркало
  • в PYSAT
  • Jupyter Notebooks

• → Бизнес-аналитик-алгоритмист! (нарасхват!)
• → Курсовые-дипломы-статьи в JN
  • В любой ситуации

С чем работаем .

• Настоящие классические задачи в одном месте (ГД+ВК+…)
  • Open Classic Hard Problems
    • Не пугайтесь, вам достаточно изучить одну задачу… но можно и все.
      • Не «книга, толщиной защищающая от прочтения»
• Там (см. беджики-ссылки)
  • Постановки
  • Наброски ноутбуков для всех задач в Lab17
  • Частично готовая модель
    • • тестовые данные (генератор)
      • визуализация
      • сведение к ЦЛП через Pyomo
      • сведение с 3SAT к задаче
      • вероятностное тестирование
      • видео с разьяснениями

Начать с простого .

• Hardprob/Maximum Set Packing
• Hardprob/Minimum Set Cover
• Hardprob/Maximum Cut
• Hardprob/Maximum Set Splitting

Ваш квест .

• Pyomo-сведение к ЦЛП → — есть Pyomo-формулировка для ЦЛП., — есть тестовые данные и визуализация.
• 3SAT-сведение к задаче → — есть сведение на Python NP-полной задачи к данной.
• Вероятностное тестирование → Можно доработать — сделать Вероятностное тестирование NPC-сведения!
• Можно
  • все для одной задачи,
  • можно для разных (исправление ошибки или улучшение — ОК)

Желательно напрямую с 3SAT .

Без классического дерева сведения (но можно копировать функции сведения тех задач).

Как с этим работаем .

• Выбирайте задачи из Open Classic Hard Problems, переходите к редактированию по «Беру…» →
  • Зарезервированные задачи просто помечаются в том же списке, для простоты.
    • Если видите, что зарезервировано кем-то в прошлом году — можно снять чужое резервирование, и поставить свое.
  • Воркфлоу «взятия задачи» аналогичен блоку «Практикуемся_В_Алгоритмах»
  • Только здесь, в вики, на «странице решения» обсуждаем постановку (если что-то непонятно), а решением будет юпитер-ноутбук в «лаборатории»..
• Текущая лаборатория
  • Lab22
  • Lab17 заболела (и может сдохла).
• Как поотлаживаться локально через VSCode — потом.

Еще раз обо всем этом на одном слайде .

Файл:Idea-hard-problems-course.svg

Картинка в полный размер

Блок 4 — Теоретический

Необязательно (если вы набрали нужные баллы другими блоками), но может быть полезно, у кого аллергия к коду, Pyomo, а хочется что-то читать и решать, как в старые добрые времена. Тут буду упражнения, и простые темы, по которым будут тесты.

Бонусные квесты

Визуализация алгоритмов

Опциональный квест.

• Но которым можно закрыть и весь курс!

Проблема текущих подходов.

См. доклад PyAlgovizualizer — эффективное преподавание алгоритмов

Почему это вам полезно практически? .

• VSCode / CodeServer
• Python — борьба за
  • компактность-лаконичность-понятность
  • эффективность
• Matplotlib (Must for бизнес-аналитик-алгоритмист!)
• Формулы LaTeX
• OBS и навыки видеодокументирования

Полезно для других блоков .

• Моделирование бизнес-задач
• Моделирование труднорешаемых задач

Почему это вам удобно .

• Вы уже решили задачи для визуализации
  • хорошо их помните
  • можно их сделать блестящими (ну или наконец понять)!
• Вся среда настроена, коллаборативная, можете помогать друг-другу.
• Хватит чтобы закрыть весь курс
  • В 2024ом, по 1 баллу за визуализацию, итого → 8 задач, (2+8) = 10.
    • Потом может быть меньше, посмотрим.

Что делать?.

• Изучить визуализацию алгоритмов с PyVisualizer
  • Проект «algo-visual» на алгоритмы.испран.рф (т.е.скорее всего в [4] ну или где-то еще), файл «contributing.md»
• Заведите подпапку «algo-visual/homeworks/2024/ВашЛогинНаDiscopal»
• Там создавайте файлы визуализированных алгоритмов, с названиями как у LC задачи
• Можно смотреть, как задачу визуализировали другие — подсмотрите идеи.

Воркфлоу.

Пометьте соотвествующее «решение» «на проверку», как в «Практикуемся В Алгоритмах»

• написав что есть визуализация.
• Я проверю, возможно будет фидбек, как при решении.

Когда все ОК

• Запишите видео «прохождения с объяснением» с помощью OBS
  • можно выложить и подшить ссылку, или просто прислать

Получить фидбек — и повторить!

Изучение тестов по Computer Science

ТеорУпражнения

Осенью 2024 достаточно 4 задач из двух тем.

• Нужно быть залогиненным
  • Скрыто из интернета
• Надо решить N задач из M разных разделов.
• Либо одну бонусную задачу — считаем, что ее решение закрывает квест.

• Выбирайте задачи из Open Exercises, переходите к редактированию по «Беру…»
  • помечайте их как {{reserve-task|~~~~~}}
  • Решение на подстранице вашей личной страницы
    • Вики-ссылка на задачу
    • Решение — можно использовать текст, латех целиком внутри тега «latex», или просто вставки математики внутри тега «m»
    • На худой конец — очень аккуратно оформить на листочке, сфотографировать, загрузить файлы (разберетесь).
    • Метка «{{checkme}}», когда решите.
    • Внизу вставка всего этого по клику →
• Они попадут в Категория:На проверку
• Все как обычно в наших квестах.

• Изучайте чужие решения
  • Категория:Решенные задачи
  • Смотрите «Ссылки сюда» → решения студентов.

Разбор статей

Важный квест, для тех, кто не хочет ограничится инженерным IT-уровнем.

• Цель — попробовать разобраться в свежей статье, связанной с темой курса.
  • Понять постановку, описать максимально просто (оформляем на русском)
    • Чем больше иллюстраций — тем лучше, мы никак не ограничены.
    • Ссылки на видео, другие лекции, все что найдете в процессе разбора — ограничений нет.
  • Если есть доказательства — понять основные идеи
  • Если алгоритм — попробовать реализовать.

В процессе

• Всяко научитесь пользоваться интерфейсом баз статей researchgate, citeseer, arxiv
• Возможно найти опровержение или написать новую статью.
• Поймете, как писать правильную понятную статью, ну или как не писать непонятную.

Оформлять можно

• Вики-статьи (шаблон набросан, презентация получится сама)
  • Ну и опыт MediaWiki-разметки полезен — кроме Wikipedia, это самая распространенная вики-разметка (вики системы институтов, компаний, баз знаний), и наверно самая используемая плоская разметка, после Markdown (хелп тут).
• git-репо где угодно с beamer-презентацией или jupyter-ноутбук (возможно погрузим в какую-нибудь лабу для быстрой совместной работы).

• Выбираете «незанятую» страницу из Категория:Разбор актуальных статей
• «Резервируете» ее.
• Работаете, можете меня пинговать — буду смотреть-поправлять в процессе.
  • Если вот знаете интересную статью, как-то связанную (темы, задачи — сложность, алгоритмы в среднем и т.п.) — можете договорится (свяжитесь), и разбирать ее.

• Бонус — 3-6 баллов (от качества и сложности).

Для избранных

• Обычно согласовывается с посещающими студентами, выбор некой темы, связанной и с алгоритмами, сложностью и областью научно-практических интересов студента.

ТеорТемы

Тут отобраны только детские темы про алгоритмы, никакой сложности, будем проверять, то что вы их читали тестами на созвонах — и так, можно будет набрать «переключающий балл» (отберем персентилями по сумме всех результатов). Плюс можно еще балл за задачи, ну или как-то вместе может они наберут балл, или как-то учтется в 10-бальной оценке.

• Несложно о сложности. Примеры алгоритмов

• Жадный алгоритм в задачах о покрытии
• Жадный алгоритм покрытия для почти всех исходных данных
• Жадный алгоритм в задаче о рюкзаке

• Динамическое программирование для задачи о рюкзаке
• Полностью полиномиальная аппроксимационная схема (FPTAS) для задачи о рюкзаке

• Полиномиальный в среднем алгоритм для задачи упаковки
• Полиномиальный в среднем алгоритм для задачи о рюкзаке
• Полиномиальный в среднем алгоритм для SAT
• Вероятностный подсчет числа выполняемых наборов для ДНФ
• MAX-SAT: вероятностное округление
• MAX-CUT: вероятностное округление
• MAX-SAT: дерандомизация
• Приближенный алгоритм для метрической задачи коммивояжера

• Формально об алгоритмах. Вычислительные модели
• Временная и пространственная сложность алгоритмов
• Полиномиальные сводимости и NP-полные задачи. Классы NP, coNP, NPC

Материалы

Наверно не пригодятся для курса 2022 года.

Книга

Специальная верстка для чтения с ноутбуков и КПК:

• альбомная ориентация
• крупные беззасечные шрифты

Кому не нравится — пишите обоснованные протесты (почему, конструктивные предложения).

Пишите замечания по содержимому — про проблемы с версткой и библиографией не писать, все там только в процессе.

File:Book-advanced-algorithms.pdf

Смешное — реакция «обычных программистов»

Примечания и ссылки

• Рекомендуется прочитать хотя бы первые лекции по введению в Python и научные вычисления.

Полезная сопутствующая литература по курсу.

• Очень хорошие лекции по классической теории сложности, написанные одним из корифеев оной: Introduction to Complexity Theory by Oded Goldreich
• Более краткий курс по классической теории сложности, университет Technion.
• Еще один классический курс лекций по теории сложности от László Lovász.
• А. Китаев, А. Шень, М. Вялый, Классические и квантовые вычисления — замечательная книга. Содержит отличное введение в теорию сложности.
• С. Дасгупта, Х. Пападимитриу, У. Вазирани, Алгоритмы [5]

1. ↑ Особенно для физтехов, которые скипают теорию и не приходя в сознание смотрят «как решать»