ОсновыПарВычЛекция1. Дисциплина Перспективные вычислительные технологии основы параллельных вычислений
 Скачать 275 Kb.
|
Дисциплина: Перспективные вычислительные технологии ОСНОВЫ ПАРАЛЛЕЛЬНЫХ ВЫЧИСЛЕНИЙСодержаниеНеобходимость параллельных вычислений Понятие параллельных вычислений Сдерживающие факторы Содержание курса Литература и источники 1. Опережение потребности вычислений быстродействия существующих компьютерных систем (Problems of Grand Challenge)
(1 Tflops) 2. Теоретическая ограниченность роста производительности последовательных компьютеров Традиционная фон Неймановская архитектура ЭВМ близка к своим физическим пределам, в то время как потребность решать всё более сложные задачи в реальном времени нарастает. Несмотря на кажущееся благополучие в мире традиционных ЭВМ на подходе кризис технологий. Дальнейшее серьезное увеличение быстродействия только за счет совершенствования элементной базы становится принципиально невозможным, так как время срабатывания элементов оказывается сравнимым со временем прохождения сигналов по проводникам: t = l/C , где l – длина проводника, C – скорость света. А уменьшение длин проводников приводит к перегреву ЭВМ. Световым барьером в вычислительной технике называется соотношение: d С или d С, где: d линейный размер ЭВМ, C скорость света, длительность такта, тактовая частота ЭВМ. Скорость переключения современных электронных элементов настолько высока, что тактовое время современных супер-ЭВМ ограничивается, в основном, соотношением d С. Таким образом, световой барьер стал основным препятствием для повышения тактовой частоты, и дальнейшее наращивание быстродействия ЭВМ в этих условиях встречает серьёзные трудности. В силу d С, увеличение тактовой частоты ЭВМ связано с уменьшением линейного размера d, а последнее, в свою очередь, ограничено предельными возможностями макроскопической технологии, например, теплоотводом (Рис.1). Теоретическая ограниченность роста производительности последовательных ЭВМРис.1. Световой и тепловой барьеры (1 – параллельные ЭВМ; 2 – релятивистские ЭВМ; 3 – последовательные ЭВМ). d Тепловой барьер d = С 3. Резкое снижение стоимости многопроцессорных (параллельных) вычислительных систем. Напр., в 24 редакции списка Top500 (осень 2004) седьмое место занимал компьютер Х c достигнутой производительностью 12250 Gflops (макс. 20240 Gflops). Кластерная система ручной сборки на базе процессоров Apple, собранная студентами Виргинского технического университета (США) под руководством профессоров. Понятие параллельных вычисленийПод параллельными вычислениями (parallel or concurrent computations) можно понимать процессы решения задач, в которых в один и тот же момент времени могут выполняться одновременно несколько вычислительных операций. Понятие параллельных вычисленийПараллельные вычисления не сводятся к использованию только к многопроцессорных вычислительных систем Одновременные выполняемые операции должны быть направлены на решение общей задачи Параллельные вычисления следует отличать от многозадачных (многопрограммных) режимов работы последовательных ЭВМ. Сдерживающие факторы…Высокая стоимость параллельных систем – в соответствии с «законом» Гроша (Grosch), производительность компьютера возрастает пропорционально квадрату его стоимости. Потери производительности для организации параллелизма – согласно гипотезе Минского (Minsky), ускорение, достигаемое при использовании параллельной системы, пропорционально двоичному логарифму от числа процессоров. Сдерживающие факторы…Постоянное совершенствование последовательных компьютеров – в соответствии с «законом» Мура (Moore) мощность последовательных процессоров возрастает практически в два раза каждые 18 месяцев. Существование последовательных вычислений – в соответствии с законом Амдаля (Amdahl) ускорение процесса вычислений при использовании p процессоров ограничивается величиной S 1/(f+(1–f)/p) где f есть доля последовательных вычислений в применяемом алгоритме обработки данных Сдерживающие факторы…Зависимость эффективности параллелизма от учета характерных свойств параллельных систем (отсутствие мобильности для параллельных программ). Существующее программное обеспечение ориентировано в основном на последовательные ЭВМ. ЛитератураГергель В.П., Стронгин Р.Г. Основы параллельных вычислений для многопроцессорных вычислительных систем. – Н.Новгород, ННГУ, 2001. Воеводин В.В., Воеводин Вл.В. Параллельные вычисления. – СПб.: БХВ-Петербург, 2002. Эндрюс Г.Р. Основы многопоточного, параллельного и распределенного программирования. – М.: Изд.дом «Вильямс», 2003. Корнеев В.Д. Параллельное программирование в MPI. – Новосибирск: Изд-во ИВМ и МГ СО РАН, 2002. Корнеев В.В. Параллельные вычислительные системы. – М.: «Нолидж», 1999. Немнюгин С.А., Стесик О.Л. Параллельное программирование для многопроцессорных вычислительных систем. – СПб.: БХВ-Петербург, 2002. ЛитератураБогачев К.Ю. Основы параллельного программирования: Монография. – М.: БИНОМ. Лаборатория знаний, 2003. Гришагин В.А., Свистунов А.Н. Параллельное программирование на основе MPI. Уч. пособие. - Н.Новгород, ННГУ, 2005. Демьянович Ю.К., Евдокимова Т.О. Теория распараллеливания и синхронизация. Уч. Пособие. – СПб.: Изд-во СПбГУ, 2005. Демьянович Ю.К., Иванцова О.Н. Технология программирования для распределенных параллельных систем. Курс лекций. – СПб.: Изд-во СПбГУ, 2005. Демьянович Ю.К., Лебединский Д.М. Операционная система UNIX (LINUX) и распараллеливание. Курс лекций. – СПб.: Изд-во СПбГУ, 2005. Лацис А.О. Как построить и использовать суперкомпьютер. -М.: Бестселлер, 2003. Дополнительные источникиhttp://www.parallel.ru - Сайт параллельных технологий http://www.mcs.anl.gov/mpi/index.html - Introduction to Parallel Computing (Teaching Course) Воеводин В.В. Модели и методы в параллельных процессах. - М.: Наука, 1986. Р.Хокни, К.Джессхоуп. Параллельные ЭВМ. Архитектура, программирование и алгоритмы. - М.: Радио и связь, 1986. Шоу А. Логическое проектирование операционных систем. - М.: Мир, 1981. ЗаключениеЗа время существование вычислительной техники Скорость срабатывания элементов возросла в 103 раз Быстродействие вычислений увеличилось в 105 раз. Развитие вычислительной техники – это история совершенствования архитектуры и практическое использование параллелизма. РаСТ-2003Первые подходы к параллелизмуENIAC (Electronic Numerical Integrator And Calculator) проект 1943-46 гг. под руководством Дж. Моучли и Дж. Эккера (Пенсильванский университет). Группа разработчиков – 200 чел. Цель – автоматизация расчетов для составления баллистических таблиц различных видов оружия (заказ баллистической исследовательской лаборатории Армии США). Вес 30 тон 18 тыс. радиоламп, 10 тыс. конденсаторов, 6 тыс. Переключателей, 500 тыс. паяных соединений Мощность 150 киловатт (1000 TV) Площадь 150 м2 Скорость 5000 операций В среднем 1 лампа заменялась через 20 часов ASCI White29 июня 2000 года корпорация IBM сообщила об успешном завершении проекта построения градиозной системы ASCI White для Ливерморской Национальной Лаборатории (LLNL): «Данный суперкомпьютер, занимающий площадь размером в две баскетбольных площадки, станет самым мощным суперкомпьютером мира». В 2006 он был на 90 месте!? ASCI White8192 процессора 12.3 TFLOPS 8 TB ОП, распр. по 16-проц. SMP-узлам, 160 TB дисковой памяти Доставка системы из лабораторий IBM в Poughkeepsie (шт.Нью-Йорк) в Ливермор (шт. Калифорния) потребовала 28 грузовиков-трейлеров. ASCI WhiteВсе узлы системы работают под управлением ОС AIX - варианта UNIX от IBM (в настоящее время установлена версия AIX 4.3). Среда программирования для ASCI White включает реализации интерфейсов MPI и OpenMP. Система использовалась учеными министерства Энергетики США для расчета сложных трехмерных моделей с целью поддержания ядерного оружия в безопасном состоянии. Earth SimulatorДва года (2002-2004) первенство по производительности удерживал японский суперкомпьютер фирмы NEC (сейчас на 30 месте) Earth Simulator: 5120 процессоров 40 TFLOPS / дост. 35 TFLOPS 10 TB ОП 4 теннисных корта, 3 этажа Software: for the most part Fortran using MPI |