Принципы Неймана-Лебедева
Каждая научная или техническая сфера имеет под собой определённые фундаментальные идеи и положения, которые предопределяют в течение многих лет её содержание или вектор развития. В компьютерных науках огромный вклад внесли принципы, которые были сформированы независимо друг от друга двумя известными учёными 20-го века: Джоном фон Нейманом и Сергеем Алексеевичем Лебедевым.
Принцип — это главное, исходное положение какой-нибудь теории, учения, науки и прочего.
Принципы Неймана-Лебедева — это стандартные принципы формирования ЭВМ, которые были сформированы в середине 20-го века, не потерявшие свою актуальность и в современности.
Джон фон Нейман — это американский учёный, который сделал огромный вклад в развитие множества математических и физических сфер. В 1946-м году в процессе анализа преимуществ и недостатков ЭНИАКа, он вместе со своими коллегами сформулировал идею нового типа организации ЭВМ.
Сергей Александрович Лебедев — академик, основатель вычислительной техники в СССР, ведущий конструктор первой российской электронной вычислительной машины МЭСМ. Помимо всего перечисленного, автор проектов компьютерной серии БЭСМ (Большая Электронная Счётная Машина) и разработчик основных принципов суперкомпьютера «Эльбрус». В 1996-м году он был посмертно награждён медалью «Пионер компьютерной техники» — это самая престижная международная награда среди компьютерного сообщества.
Классическая архитектура фон Неймана
“Бутылочное горлышко” архитектуры фон Неймана.
Все классические компьютеры обладают так называемой архитектурой фон Неймана.
Рис. 1. The decline of von Neumanns architecture
Недостатком такой архитектуры является тот факт, что данные из области памяти цикл за циклом должны передаваться в область вычислительного юнита и обратно. Интерфейс, связывающий вычислительный юнит и память компьютера, ограничен в своей пропускной способности. Даже тот факт, что современные процессоры имеют несколько уровней кэша непосредственно в вычислительном юните, не решает проблему. Данный подход усугубляется необходимостью аккумулировать и структурировать данные для полного заполнения буфера вычисляемых операций. Можно привести метафору с поездом: пока все пассажиры не займут именно свои места в поезде, поезд никуда не поедет.
3. Перспективные направления развития компьютеров
Мир современных компьютеров необычайно разнообразен. Кроме микропроцессоров, встраиваемых во всевозможные устройства, и разных типов персональных компьютеров существуют значительно более мощные вычислительные системы.
Это серверы в глобальной компьютерной сети, управляющие её работой и хранящие огромные объёмы информации.
Это многопроцессорные системы параллельной обработки данных, обеспечивающие:
• сокращение времени решения вычислительно сложных задач;
• сокращение времени обработки больших объёмов данных;
• решение задач реального времени;
• создание систем высокой надёжности.
Время однопроцессорных вычислительных систем прошло. Не только суперкомпьютеры, но и современные персональные компьютеры, ноутбуки, игровые приставки основаны на многопроцессорных, многоядерных и других технологиях, предполагающих одновременное выполнение множества инструкций.
В наши дни электронная техника уже подошла к предельным значениям своих технических характеристик, которые определяются физическими законами. Поэтому идёт поиск неэлектронных средств хранения и обработки данных, ведутся работы по созданию квантовых и биологических компьютеров, проводятся исследования в области нанотехнологий.
Почему он используется в CPU и GPU?
Основная причина заключается в том, что увеличение количества шин означает увеличение периметра самого процессора, так как для связи с внешней памятью необходимо, чтобы интерфейс находился снаружи от нее. Это приводит к созданию гораздо более крупных и дорогих процессоров. Итак, главная причина стандартизации архитектуры фон Неймана — это стоимость.
Вторая причина заключается в том, что две ячейки памяти необходимо синхронизировать, чтобы инструкция не применялась к ошибочным данным. Это приводит к необходимости создания систем координации между обеими ячейками памяти. Конечно, значительную часть узких мест можно было бы устранить, разделив оба автобуса. Но это не уменьшило бы полностью узкое место фон Неймана.
Это связано с тем, что узкое место фон Неймана, несмотря на то, что оно является следствием хранения данных и инструкций в одной и той же памяти, также может возникать в архитектуре Гарварда, если оно недостаточно быстрое для питания процессора. Вот почему архитектуры Гарварда были сокращены особенно до микроконтроллеров и DSP. В то время как фон Нейман часто встречается на процессорах и GPU / ГРАФИЧЕСКИЙ ПРОЦЕССОР
Принцип построения и работы ЭВМ фон Неймана
Заносимые в память команды (программа) содержат информацию о необходимом действии и адреса требуемых данных. Также вводятся идентификатор ячейки для введения память результата (если нужно).
АЛУ отвечает за исполнение команды. Итог операции отправляется в память или на вывод. ВЗУ сходно с устройством вывода тем, что используется для недолгого хранения параметров. Только содержит информацию в непонятном для оператора формате. Исключительно для машины.
Если кратко, основной функцией АЛУ является поддержка незатейливых действий: арифметических, логических, перемещением данных. Еще анализируется результат. Решения по анализу принимаются УУ.
УУ предназначено для отправки указаний непосредственно отдельным деталям и получения от них подтверждений. Следит за очередностью выполнения команд и за их исполнением вообще.
Биография
Янош фон Нейман был старшим из трех сыновей преуспевающего будапештского банкира Макса фон Неймана. Позже, в Цюрихе, Гамбурге и Берлине, Яноша называли Иоганном, а после переезда в США — Джоном (дружески — Джонни). Фон Нейман был продуктом той интеллектуальной среды. из которой вышли такие выдающиеся физики, как Эдвард Теллер, Лео Сциллард, Денис Габор и Юджин Вигнер. Джон выделялся среди них своими фенеменальными способностями. В 6 лет он перебрасывался с отцом остротами на древнегреческом, а в 8 освоил основы высшей математики. В юные годы Янош занимался дома со специально приглашенными педагогам, а в возрасте 10 лет поступил в одно из лучших учебных заведений того времени — лютеранскую гимназию. Еще в школе фон Нейман заинтересовался математикой. Гения в фон Неймане распознал преподаватель математики Ласло Ратц. Он и помог ему развить его дарование. Ратц ввел фон Неймана в небольшой, но блестящий кружок будапештских математиков того времени, который возглавлял духовный отец венгерских математиков Липот Фейер. Помогать фон Неймону было поручено ассистенту Будапештского университета М. Фекете: а общее руководство взял на себя выдающийся педагог: профессор Йожеф Кюршак. Атмосфера универсиета и беседы с математиками и внимание со стороны Фейера помогло сформироваться фон Нейману как математику, также как изучение университетских курсов. К моменту получения аттестат зрелости Янош фон Нейман пользовался у математиков репутацией молодого дарования. Его первая печатная работа была написана совместно с М. Фекете «О расположении нулей некоторых минимальных полиномов»(1921) вышла в свет, когда фон Нейману было 18 лет. Вскоре фон Нейман окончил гимназию. Макс фон Нейман не считал профессию математика достаточно надежной, способной обеспечить будущее сына. Он настоял на том, чтобы Янош приобрел еще и профессию инженера-химика. Поэтому Янош поступил в Федеральную высшую техническую школу в Цюрихе, где изучал химию, и одновременно на математический факультет Будапештского университета. Благодаря такому совмещению, у него было свободное посещение лекций, поэтому он появлялся в Будапеште только в конце семестра, для сдачи экзаменов. Потом он уезжал в Цюрих или Берлин, но не для того чтобы изучать химию, а для подготовки к печати своих работ, бесед с коллегами-математиками, посещения семинаров. Фон Нейман считал, что о этот период он очень много узнал у двух математиков: Эрхарда Шмидта и Германа Вейля. Когда Вейлю поднадобилось отлучиться во время семестра, то чтение курса за него продолжил фон Нейман.
Первая работа фон Неймана по аксиоматической теории множеств вышла в свет в 1923 году. Она называлась «К введению трансфинитных ординальных чисел». Она была опубликована в трудах Сегедского университета. Фон Нейман разработал свою систему аксиом и изложил ее в докторской диссертации и двух статьях. Диссертация сильно заинтересовала А. Френкеля, которому поручили отрецензировать ее. Несмотря на то, что он не смог разобраться в ней полностью, он пригласил к себе фон Неймана. Он Френкель попросил его написать популярную статью, в которой излагались бы новый подход к проблеме и следствия, извлекаемые из его. Фон Нейман написал такую работу, назвав ее «К вопросу об аксиоматическом построении теории множеств». Она была опубликована в 1925 году а «Journal fuer Mathematik». Фон Нейман построил замечательную систему аксиом теории множеств, такую же простую, как гильбертовая для евклидовой геометрии. Система аксиом фон Неймана занимает немногим более одной страницы печатного текста. В 1925 фон Нейман получает диплом инженера-химика в Цюрихе и успешно защищает диссертацию «Аксиоматическое построение теории множеств» на звание доктора философии в Будапештском университете. Молодой доктор отправляется совершенствовать свои знания в Геттингенский университет, где в то время читали лекции люди, чьи имена стали гордостью науки: К. Рунге, Ф. Клейн, Э. Ландау, Д. Гильберт, Э. Цермело, Г. Вейль, Г. Минковский, Ф. Франк, М. Борн и другие. Приглашенными лекторами были Г. Лоренц, Н. Бор, М. Планк, П. Эренфест, А. Пуанкаре, А. Зоммерфельд.
На фон Неймана очень большое влияние оказало общение с Давидом Гильбертом. В Геттингене фон Нейман познакомился с идеями зарождавшейся тогда квантовой механики, ее математическое обоснование сразу захватило. Совместно с Д. Гильбертом и Л. Нордгеймом фон Нейман написал статью «Об основаниях квантовой механики». Потом выпускает серию работ «Математическое обоснование квантовой механики», «Теоретико-вероятностное построение квантовой механики» и «Термодинамика квантовомеханических систем». В работах фон Неймана квантовая механика обрела свой естественный язык — язык операторов, действующих в гильбертовом пространстве состояний. В его работах была подведена прочная математическая основа под статистическую интерпретацию квантовой механики, введено новое понятие матрицы плотности, доказан квантовый аналог H-теоремы Больцмана и эргодической теоремы. На основе этих работ фон Нейман начал другой цикл — по теории операторов, благодаря которым он считается основоположником современного функционального анализа. Фон Нейман показал, что «слишком вольное» обоснование теории можно обосновать в терминах аксиоматической теории гильбертова пространства и спектральной теории операторов.
В 1927 году фон Нейман становится приват-доцентом Берлинского, а с 1929 года — Гамбургского университета.
В период 1927 по 1929 годы фон Нейман выполнил основополагающие работы трёх больших циклов: по теории множеств, теории игр и математическому обоснованию квантовой механики.
В 1927 фон Нейман написал статью «К гильбертовой теории доказательства». В ней он исследовал проблему непротиворечивости математики.
В 1928 фон Нейман написал работу «К теории стратегических игр», в которой доказал теорему о минимаксе, ставшей краеугольным камнем возникшей позже теории игр. В своей теореме фон Нейман рассматривает ситуацию, когда двое играют в игру, по правилам которой вигрыш одного игрока равен проигрышу другого. При этом каждый игрок может выбирать из конечного числа стратегий. При этом игрок считает, что противник действует наилучшим для себя образом. Теорема фон Неймана утверждает, что в такой ситуации существует «устойчивая» пара стратегий, для которых минимальный проигрыш одного игрока совпадает с максимальным выигрышем другого. Устойчивость стратегий означает, что каждый из игроков, отклоняясь от оптимальной стратегии лишь ухудшает свои шансы и, ему приходится вернуться к оптимальной стратегии.
Фон Нейман доказал эту теорему, обратив внимание на её связь с теорией неподвижных точек. Позже были найдены доказательства, использующие теорию выпуклых множеств. В работе «Об определении через трансфинитную индукцию и родственных вопросах общей теории множеств»(1928), фон Нейман вновь возвращается к проблеме введения ординальных чисел, и дает строгое аксиоматическое изложение теории.
В работе «Об одной проблеме непротиворечивости аксиоматической теории множеств» фон Нейман показал, что одна из «нетрадиционных» аксиом в предложенной им системе выводима из аксиом других систем. Поскольку обратная выводимость была доказана раньше, то результат означал, что его «необычная» аксиома эквивалентна обычным в других системах.
В 1929 году фон Нейман пишет работу «Общая спектральная теория эрмитовых операторов».
В 1929 году фон Нейман получает приглашение прочитать в течении одного семестра цикл лекций в Принстонском университете. В США фон Нейман впервые оказался в 1930 году. Вскоре после приезда Иоганн фон Нейман для многих коллег становится просто Джонни. В 1931 году фон Нейман окончательно расстается с Гамбургским университетом, чтобы принять профессуру в Принстоне.
В 1934 году выходит в свет статья «Об алгебраическом обобщении квантовомеханического формализма», написанная в соавторстве с П. Иорданом и Е. Вигнером.
Незадолго до первого визита в Принстон фон Нейман женился на Мариэтте Кевуши, а в 1935 году у них родилась дочь Марина.
В 1936 фон Нейман совместно с Дж. Биркгофом пишет статью «Логика квантовой механики».
В 1937 году брак фон Неймана распался, а из очередной поездки на летние каникулы в Будапешт в 1938 фон Нейман вернулся со второй женой — Кларой Дан. Позднее, во время второй мировой войны, Клара фон Нейман стала программисткой. Ей принадлежат первые программы для электронынх вычислительных машин, в разработку и создание которых её муж внёс большой вклад.
Первыми профессорами Института высших исследований в Принстоне стали Освальд Веблен (в 1932 году) и Альберт Эйнштейн (1933). В том же 1933 этой высокой чести был удостоен и Джон фон Нейман.
Биография
Янош Лайош Нейман (при рождении венг.) родился в Будапеште в 1903 году. Отец мальчика (Макс Нейман) был банковским работником, мать — домохозяйка. У Джона было два младших брата. В 1913 году отцу Яноша дали титул дворянина. С получением титула, к фамилии Нейман присоединилась приставка фон, указывающая на принадлежность к знатному роду. После переезда в Америку, в 1930 году, математик сменил имя на американский манер — Джон.
Янош с ранних лет был любознательным ребенком. Родители отмечали у мальчика склонность к математике. В 6 лет он в уме делил восьмизначные числа и свободно говорил на греческом. Неймана-младшего интересовали математические законы, тайны окружающего мира. В возрасте восьми лет им был изучен математический анализ.
В 1911 году родители отправили Джона в лютеранскую школу. Это была одна из лучших школ Будапешта. Нейман интересовался не только математикой. В первый год обучения он прочел 40 томов Всемирной истории. Мальчик был всесторонне развит: мог поддержать разговор на любую тему.
Свою первую научную работу Джон опубликовал в 19 лет. Исследование было посвящено нулям в определенных минимальных многочленов. Докторскую степень в области математики Нейман получил в 23 года. По наставлению отца Янош поступил в Цюрих и изучал химическую инженерию. В 1926 году фон Нейман занял должность приват-доцента Берлинского университета имени Гумбольдта. На этой должности он проработал до 1930 года.
В 1930 году Джона Неймана пригласили преподавать в университет Принстона. Он был одним из первых иностранцев, кого пригласили работать в американский научно-исследовательский институт. Приехав в Америку, Янош приступил к преподавательской деятельности, должность профессора занимал до смерти.
В 1938 году Нейманзащитил докторскую диссертацию. Научным руководителем был Алонзо Черч. За основу исследования была взята статья Тьюринга “О вычислимых числах в проблемах разрешимости”. За вклад в развитие математического анализа Джон получил премию Бохера.
С 1945 по 1951 занимался разработкой и созданием вычислительной машины. Современные компьютеры построены на архитектуре машины фон Неймана. Практическое применение компьютера было доказано метеорологами. С помощью машины был получен первый подробный прогноз погоды.
В 1954 году фон Неймана пригласили стать членом Комиссии по атомной энергетики. Целью комиссии было создание ядерного оружия. В течении двух последующих лет Джон являлся главным советником по атомному оружию.
Летом того же года у ученого обнаружили рак костей. Врачи предполагали, что болезнь появилась из-за работы математика на испытаниях ядерного оружия. Заболевание прогрессировало, Нейман сгорал на глазах. Янош всю жизнь был агностиком, но перед смертью попросил позвать священника. Умер физик в медицинском центре Вальтера Рида.
Джон фон Нейман был женат на Мариэтте Кёвеши. Свадьба состоялась в 1929 году. У пары родилась дочь — Марина. Но в 1936 супруги развелись. Мириэтта приняла решение вернуться в Вернгрию. После развода Джон путешествовал по Европе. Во второй раз Нейман женился в 1938 году на Кларе Дэн, с которой прожил до смерти. Жена ученого после Второй мировой войны стала программистом. Написала первые программы для компьютера.
Maniacs и Joniacs
В 1947 году Беркс, Гольдштейн и фон Нейман опубликовали еще один доклад, в котором освещалась конструкция другого типа машины (на этот раз параллельная), которая должна была стать чрезвычайно быстрой, способной, возможно, осуществлять до 20 000 операций в секунду. Они отметили, что нерешенной проблемой при построении ее была разработка подходящей памяти, все содержимое которой должно быть мгновенно доступно. Сначала они предложили использовать специальную вакуумную трубку, называемую Selectron, которая была изобретена в Принстонской лаборатории. Такие трубки были дорогими, и сделать их очень трудно, особенно если используется данная архитектура. Фон Нейман впоследствии решил построить машину, основанную на памяти Williams. Эта машина, которая была завершена в июне 1952 года в Принстоне, стала широко известна MANIAC (или просто Maniacs). Ее дизайн вдохновил создателей на конструирование полудюжины или более аналогичных приборов, которые сейчас строятся в Америке и называются шуточно Johniacs.
Один из самых современных цифровых компьютеров, воплощавших разработки и усовершенствования в технике автоматического электронного вычисления, был продемонстрирован в Национальной физической лаборатории в Теддингтоне, где он был спроектирован и построен небольшой группой математиков, электронщиков и инженеров-исследователей, при содействии ряда производственных инженеров из английской Electric Company Ltd. Оборудование до сих пор находится в лаборатории, но только как опытный образец гораздо большей установки, которая известна как Automatic Computing Engine. Но, несмотря на сравнительно небольшую массу и содержание только 800 термоионных клапанов, он является чрезвычайно быстрой и универсальной счетной машиной.
Основные понятия и абстрактные принципы расчета с помощью машины были сформулированы доктором Тьюрингом на базе все того же Лондонского математического общества еще в 1936 году, но работа над такими машинами в Великобритании была задержана войной. В 1945 году рассмотрение проблем создания таких устройств продолжилось в Национальной физической лаборатории доктором Вормсли, суперинтендантом лаборатории Отделения математики. Он присоединился к Тьюрингу со своим небольшим штатом специалистов, а к 1947 году предварительное планирование было достаточно продвинуто, чтобы оправдать создание специальной группы.
Узкое место архитектуры фон Неймана
Совместное использование шины для памяти программ и памяти данных приводит к узкому месту архитектуры фон Неймана, а именно ограничению пропускной способности между процессором и памятью по сравнению с объёмом памяти. Из-за того, что память программ и память данных не могут быть доступны в одно и то же время, пропускная способность канала «процессор-память» и скорость работы памяти существенно ограничивают скорость работы процессора — гораздо сильнее, чем если бы программы и данные хранились в разных местах.
Данная проблема решается совершенствованием систем кэширования, что в свою очередь усложняет архитектуру систем и увеличивает риск возникновения побочных ошибок (например, в 2017 году были обнаружены уязвимости Meltdown и Spectre, присутствовавшие в современных процессорах в течение десятилетий, но не обнаруженные ранее из-за сложности современных вычислительных систем и, в частности, их взаимодействия с кэш-памятью).
Термин «узкое место архитектуры фон Неймана» ввёл Джон Бэкус в 1977 в своей лекции «Можно ли освободить программирование от стиля фон Неймана?», которую он прочитал при вручении ему Премии Тьюринга [7] [8]
Учёные из США и Италии в 2015 заявили о создании прототипа мем-процессора (англ. memprocessor ) с отличной от архитектуры фон Неймана и возможности его использования для решения NP-полных задач [9] [10] [11] .
