Топ-6 катастроф, произошедших «по вине» программного обеспечения

10 самых дорогих ошибок в разработке ПО

Топ-6 катастроф, произошедших «по вине» программного обеспечения

Ещё совсем свежа память об уязвимости Heartbleed в Open SSL, поставившей под удар сотни тысяч приложений по всему миру.

Пока дотошные багоискатели продолжают исследовать код Open SSL в поисках новой ошибки, способной с не меньшей силой заставить сердца специалистов по безопасности ныть от тревожного предчувствия, мы решили оглянуться назад и вспомнить самые дорогостоящие и ужасные по последствиям технологические катастрофы, случившиеся из-за ошибок разработчиков программного обеспечения. От потерянных в глубинах космоса спутников, стоимостью в годичный ВВП небольшого островного государства, до печально известного червя Морриса, мутировавшего из безобидного эксперимента в напасть года, что, кстати, не помешало его автору стать уважаемым человеком – профессором MIT и сооснователем Y Combinator.

В 1998 году агентство NASA потеряло в космосе спутник «Mars Climate Orbiter». Эта катастрофа озадачила инженеров – удивительно, как такое могло поизойти. В результате оказалось, что субподрядчик, который работал над многими инженерными задачами, не выполнил простейшего преобразования английских единиц измерения в метрическую систему.

Из-за фатальной ошибки аппарат стоимостью 125 миллионов долларов оказался слишком близко к поверхности Марса. Диспетчеры пришли к выводу, что спутник на большой скорости вошел в марсианскую атмосферу, где из-за возникших перегрузок его системы связи вышли из строя.

Неуправляемый Mars Climate Orbiter попал на околосолнечную орбиту, миссия была провалена.

На новейшей французской беспилотной ракете-носителе «Ariane 5» решили использовать то же программное обеспечение, которое было разработано для более ранней модели – Ariane 4. К сожалению, более мощный двигатель Ariane 5 спровоцировал баг, не встречавшийся в предыдущих версиях ПО.

Через тридцать шесть секунд после первого запуска ракеты пришлось активировать систему самоуничтожения, так как возникла целая череда программных ошибок. В сущности, программа попыталась записать 64-разрядное число в 16-разрядное пространство.

Возникло переполнение, в результате которого отказал и основной, и резервный компьютер (поскольку на обоих компьютерах выполнялись одни и те же программы). На разработку Ariane 5 было потрачено около 8 миллиардов долларов. Общая стоимость спутников, которые должна была вывести на орбиту эта ракета, составляла 500 миллионов долларов.

В следующем ролике мы видим ошеломленного инженера, наблюдающего взрыв ракеты. Затем специалист записывает на бумажке какое-то короткое слово – F…A…I…L , вероятно.

В 2004 году компания EDS разработала сложную компьютерную систему по выплате пособий для британского агентства помощи детям (CSA). В то же время Министерство труда и пенсионного обеспечения (DWP) приняло решение реорганизовать это агентство.

Две программные системы оказались полностью несовместимы, в результате были спровоцированы необратимые ошибки. Система переплатила 1,9 миллионам человек и недоплатила семистам тысячам. В итоге накопилось 7 миллиардов долларов, не попавших на социальные счета, 239 000 нерассмотренных дел, 36 000 новых дел, «застрявших» в системе.

Все эти ошибки обошлись британским налогоплательщикам в сумму более 1 миллиарда долларов.

Советская газотранспортная система была настолько сложной, что управлять ею можно было лишь с помощью продвинутого автоматизированного ПО. Которого в стране, конечно, не было.

В ЦРУ узнали, что советские агенты собираются украсть планы подобной системы, и вышли на контакт с канадской компанией, разрабатывавшей ПО такого рода. Сотрудникам компании было поручено специально внести в код определённые ошибки, чтобы СССР получил дефектную программу.

В июне 1982 года на участке газопровода произошел мощный взрыв, который, по некоторым данным, был крупнейшим неядерным взрывом в истории планеты.

Незадолго до открытия пятого терминала в аэропорту Хитроу персонал тестировал новейшую систему для транспортировки больших объемов багажа, поступающего в аэропорт ежедневно. Перед открытием терминала она была тщательно протестирована на 12 000 пробных «единицах» багажа. Все испытания прошли безупречно, но в день открытия терминала оказалась, что система неработоспособна.

Вероятно, причиной тому стали непредусмотренные практические ситуации. Например, пассажир мог забыть в сумке какой-то важный предмет, и багаж вручную забирали из транспортной системы. Весь процесс обработки нарушался, и система отказывала. В течение следующих десяти дней около 42 000 мест багажа не были доставлены владельцам, из-за этого пришлось отменить более 500 рейсов.

В 1962 году космический корабль «Mariner 1» должен был отправиться к Венере. Однако едва ракета успела оторваться от космодрома на мысе Канаверал, как угрожающе отклонилась от курса. Возникла угроза падения на землю.

Инженеры NASA, управлявшие полетом с Земли, активировали систему самоуничтожения ракеты. Позже ревизионная комиссия пришла к выводу: авария возникла из-за того, что в программных инструкциях был пропущен дефис. В результате корабль получал неверные управляющие сигналы.

Стоимость ракеты составляла 18 миллионов долларов без учёта инфляции.

Червь Морриса – под таким названием стала известна программа, разработанная в 1988 году аспирантом Корнеллского университета Робертом Тэппеном Моррисом.

Автор утверждал, что задумал его как «безобидный эксперимент», но из-за ошибки в коде она вышла из-под контроля и начала стремительно распространяться, выводя из строя тысячи компьютеров.  Общая стоимость устранения ущерба составила около 100 миллионов долларов.

 Роберта Морриса обвинили в компьютерном преступлении и оштрафовали на 10 000 долларов. На суде адвокат заявил, что созданная подзащитным программа помогла усовершенствовать компьютерную безопасность.

Стоит отметить, что Моррис был сооснователем инкубатора стартапов Y Combinator, а в настоящее время является адъюнкт-профессором Массачусетского технологического института. Дискета с исходным кодом червя Морриса хранится в Бостонском университете.

В феврале 1991 года американский комплекс противоракетной обороны «Patriot», установленный в Саудовской Аравии, пропустил ракетный удар по армейским казармам.

Правительственная комиссия обнаружила, что это произошло из-за программного сбоя, который привел к «неточности в процедуре отслеживания, усугубившейся в ходе долговременной эксплуатации системы».

К моменту катастрофической ошибки комплекс «Patriot» беспрерывно проработал в течение более 100 часов. Накопилась достаточно серьезная погрешность, в результате которой комплекс ПВО неправильно вычислил курс атакующей ракеты. В результате прямого попадания погибли 28 американских солдат.

Ещё до инцидента американские инженеры успели исправить в программе баг, из-за которого в работе «Patriot» возникали неточности. Исправленная версия ПО была доставлена на пострадавшую военную базу на следующий день после атаки.

В 1994 году профессор математики обнаружил баг в популярном процессоре Intel от Pentium и опубликовал об этом статью. Компания Intel в ответ на это замечание заявила, что готова заменять процессоры по требованию пользователей, которые смогли бы доказать, что пострадали в результате этой ошибки.

По расчетам Intel, вероятность её возникновения была столь низкой, что подавляющее большинство пользователей даже не заметили бы её. Возмущённые клиенты потребовали заменить процессоры всем желающим, и Intel пришлось на это пойти.

Финансовые потери Intel в результате составили около 475 миллионов долларов. 

Компания Knight, один из ключевых игроков американского фондового рынка, едва не обанкротилась в результате одной программной ошибки. Из-за возникшего бага компания всего за полчаса потеряла около 440 миллионов долларов.

В течение 2 дней, когда неисправное ПО наводнило рынок незапланированными сделками, котировки акций компании упали на 75 процентов.

Предполагается, что содержавший ошибку биржевой алгоритм Knight стал совершать незапланированные сделки примерно на 150 торговых площадках, просто парализовав их. 

Список был бы неполным без упоминания о спутнике NOAA-19 – ещё одной аварии, которая, правда, не связана с программными ошибками. 6 сентября 2003 года в ходе сборки на заводе Lockheed Martin Space Systems был сильно поврежден спутник. Аппарат рухнул на пол, когда техники устанавливали его в горизонтальное положение.

Расследование этого происшествия показало, что случившееся было вызвано плохой производственной дисциплиной. Как оказалось, из тележки, которую использовали в этой процедуре, ранее техник извлёк 24 болта, закреплявших переходную платформу, но не задокументировал этого.

Рабочие, которые воспользовались этой тележкой при изменении положения спутника, не проверили болты, хотя обязаны были это сделать. Стоимость ремонта спутника составила 135 миллионов долларов.

Источник: raygun.io

Нашли в тексте ошибку — выделите её и нажмите Ctrl+Enter.

Источник: https://dev.by/lenta/main/10-samyh-dorogih-oshibok-v-razrabotke-po

Топ-6 катастроф, произошедших «по вине» программного обеспечения

Топ-6 катастроф, произошедших «по вине» программного обеспеченияWith Twitter

Reply

With ADN

«Умное» программное обеспечение делает нашу жизнь проще, но сбой в его работе может иметь катастрофические последствия. Порой ошибки компьютера даже «cеяли» смерть и разрушения. Предлагаем ознакомиться с шестью наиболее примечательными случаями. 

1. Космос: Ariane 5

4 июня 1996 года Европейское космическое агентство запустило ракету Ariane 5. Увы, ошибка в программном обеспечении модуля управления привела к самоуничтожению ракеты через 37 секунд после взлета.

2. Деньги: Knight Capital

В прошлом году сбой программы почти довел инвестиционную компанию Knight Capital до банкротства. Фирма потеряла полмиллиарда долларов за полчаса из-за того, что компьютеры стали покупать и продавать миллионы акций безо всякого человеческого контроля. В итоге цены на акции компании упали на 75% за два дня.

3. Медицина: Лучевая терапия

В 1980-е годы пять пациентов умерли после получения большой дозы рентгеновского излучения в результате программной ошибки блока управления установкой лучевой терапии Therac-25. Как полагают эксперты, сбой был вызван ошибкой в коде, в результате которой программа пыталась выполнять одну и ту же команду многократно.

4. Интернет: Amazon

Отключение серверов Amazon прошлым летом лишило многих людей их данных, хранившихся в «облаке». Авария, изначально вызванная сильной грозой, усугубилась внезапно обнаруженными программными ошибками, в результате чего произошел каскадный сбой.

5. Инфраструктура: «блэкаут» на северо-востоке США

Массовое отключение электроэнергии в 2003 году стало результатом локальной аварии, которая осталась незамеченной из-за ошибки программного обеспечения для мониторинга работы оборудования General Electric Energy, и также привела к масштабному каскадному сбою.

6. Транспорт: American Airlines

В этом году программная ошибка «приземлила» весь воздушный флот авиакомпании American Airlines. Сбой в системе бронирования билетов возник после объединения двух существующих систем в результате слияния нескольких авиакомпаний. Проблемы, вероятно, возникли вследствие неудачной попытки объединить платформы, написанные на разных языках программирования.

Источник: www.popmech.ru

00

Источник: http://texno.info/2014/08/25/top-6-da/

Человеческий фактор: 7 катастрофических последствий программных ошибок

Человеческий фактор: 7 катастрофических последствий программных ошибок

На протяжении многих лет главной уязвимостью любого программного обеспечения был человеческий фактор. Многие специалисты сходятся во мнении, что баги существуют везде и всегда.

Большинство багов обнаруживаются на этапе компиляции и тестирования, остальные же умело скрываясь, превращаются в бомбы замедленного действия. Одно дело, когда такие ошибки имеют незначительный характер, а другое, когда из-за них погибают люди или наносится ущерб в сотни миллионов долларов.

В этой статье мы рассмотрим 7 самых известных происшествий, случившихся в результате сбоя в программном обеспечении.

Потеря спутника NASA

В 1998 году спутник «Mars Climate Orbiter» стоимостью $125 млн. разбился вследствие ошибки инженеров NASA.

Субподрядчик, ответственный за программирование спутника забыл перевести единицы измерения силы в метрическую систему.

В итоге, в командах по тяге двигателя в программном обеспечении спутника использовалась единица измерения силы — ньютон, в то время как в NASA была запрограммирована английская единицу измерения — фунт.

В результате этой ошибки Mars Climate Orbiter после 286-дневного полета вошел в атмосферу Марса на слишком большой скорости и на 50 километров ниже предполагаемой орбиты. Из-за перегрузок вышли из строя системы связи, и спутник распался в атмосфере, так и не достигнув поверхности красной планеты.

Спустя несколько месяцев, по неизвестным причинам во время посадки на Марс разбился еще один спутник — Mars Polar Lander. Таким образом, миссия Mars Surveyor’98 завершилась неудачей, и дальнейшие попытки полетов отложились на длительный срок.

К слову в 2007 году, NASA все же окончательно перешла на метрическую систему расчета.

Toyota и 81514 нарушений в коде

Недавно Национальное управление безопасностью движения на трассах США (NHTSA) опубликовало страшную статистику. По подсчетам NHTSA в период с 2000 по 2010 год в авариях в результате багов в программном обеспечении автомобилей Toyota погибло 89 человек.

Компания в свою очередь отрицает вину софта и винит во всем западающую педаль газа, и неправильно расположенные коврики. В ходе 10-месячного расследования NHTSA совместно с NASA выявили, что программное обеспечение автомобилей не соответствовало стандартам MISRA и содержит более 7134 ошибки.

Большинство ошибок было найдено в системе электронного управления дроссельной заслонкой.

В 2010 году Toyota опровергла все обвинения, но в итоге выплатила 16 млрд. долларов штрафа по искам, отозвала 5,5 млн. автомобилей и обновила старый софт. Слишком много фактов для простого совпадения.

Позже к исследованию подключились еще два независимых исследователя Майкл Барр и Филипп Купман, которые за 20 месяцев разобрали 280000 строчек исходного кода ПО Тойоты. Инженеры работали в засекреченном и охраняемом номере отеля без телефонов и интернета.

В отчете на 800 страниц, инженеры опубликовали еще более ужасающую цифру — 81514 ошибок в коде. В результате отчет засекретили, Toyota отзывала более 10 миллионов автомобилей по всему миру. Компания так и не признала вину.

Смертельное облучение

Резонансный случай гибели шести человек в период с 1985 по 1987 год, которые из-за ошибки в программном обеспечении медицинского ускорителя Therac-25 получили смертельную дозу радиации, превышающую допустимую в несколько тысяч раз.

Данные ускорители применяются для высокоточного уничтожения опухолей и в своей работе используют электроны для создания лучей высокой энергии. Основанная на предыдущей модели, улучшенная версия Therac-25 могла создавать два вида излучения: слабое бета-излучение и обычное рентгеновское излучение.

Еще одно нововведение заключалось в том, что вместо привычной электромеханической защиты использовалось новая программная защита.

Обе модернизации были реализованы всего одним программистом, а это 20 миллионов инструкций написанных на ассемблере. Новое программное обеспечение было установлено практически на все аппараты Therac-25. Ускорители, которые до середины 1980-х годов работали безупречно, стали накапливать инциденты разной степени тяжести: от ампутации конечностей до гибели пациентов.

Первое время баги попросту не замечали, и во всех неисправностях винили аппаратное обеспечение. Однако после очередной гибели пациента, при котором он получил дозу радиации в 20 000 рад, при критической для жизни человека в 1000 рад, последовало судебное разбирательство. Независимыми экспертами в течение нескольких дней был выявлен целый ряд программных ошибок.

Случай на ракетном крейсере «Йорктаун CG-48»

В 1997 году в результате деления на ноль в компьютеризированной системе управления американского ракетного крейсера «Йорктаун CG-48» вышли из строя все системы управление кораблем, включая главную энергетическую установку. На Йорктауне были установлены 27 компьютеров Pentium-Pro на 200 МГц, которые позволяли автоматизировать управление кораблем без участия человека.

На компьютеры крейсера установили новую программу для управления главным двигателем. Один из инженеров, занимавшийся калибровкой топливных клапанов занес в расчетную ячейку программы нулевое значение.

21 сентября программа произвела деление на этот самый ноль. Произошел сбой в софте компьютера, который по цепной реакции перекинулся на другие системы управления.

В результате, экипажу потребовалось более трех часов, чтобы подключить аварийную систему управления.

Авария ракеты-носителя Ariane-5

4 июня 1996 г. новая ракета-носитель Ariane 5, результат многолетней работы европейских ученых, гордость стран Евросоюза, взорвалась через 40 секунд после своего первого старта.

Данная катастрофа, произошедшая в результате программного сбоя, считается одной из самых дорогостоящих в истории.

Только научное оборудование на борту ракеты стоило около $500 млн, не говоря о большом количестве побочных финансовых последствий.

Началом этой цепочки послужило переполнение буфера памяти, из-за того, что система навигации передала недопустимо большое значение параметра горизонтальной скорости. Дело в том, что система управления Ariane 5 модернизировалась из Ariane 4, в которой такого большого значения не было теоретически.

В целях снижения нагрузки на рабочий компьютер, инженеры сняли защиту от ошибок переполнения буфера, поскольку были уверены, что такого значения горизонтальной скорости не может быть в принципе. Этот просчет привел к фатальным последствиям.

Сразу же после взлета прекратили работу оба процессора, в результате перестала функционировать вся навигационная система, что и привело к катастрофе.

Обновление программного обеспечения на атомной станции

В 2008 году атомная электростанция мощностью 1,759 МВт, расположенная в штате Джорджиа, США в экстренном режиме прекратила работу на двое суток.

Инженер, занимавшийся техническим обслуживанием станции, установил новое программное обеспечение на главный компьютер, использовавшийся для контроля над химическими данными и диагностики основной системы АЭС.

После установки нового ПО компьютер в штатном режиме перезагрузился, стерев при этом из памяти часть данных дозиметрического контроля. В результате система безопасности приняла потерю данных за утечку радиоактивных веществ в систему охлаждения реактора и остановила работу всех систем станции почти на 48 часов.

Блэкаут в США

Небольшая программная ошибка в системе мониторинга оборудования General Electric Energy, привела к тому, что ночью 14 августа 2003 года 55 миллионов американцев остались без электричества. На восточном побережье США на несколько часов обесточилось все: аэропорты, больницы, школы и жилые дома.

В 0:15 ночи оператор энергетической станции обнаружил незначительную проблему, которая вызвала срабатывание сигнализации. Оператор сумел за короткий срок решить проблему, но забыл перезапустить систему мониторинга, из-за чего сигнализация осталась в выключенном состоянии.

Работа продолжилась в штатном режиме, до тех пор, пока через несколько часов в Огайо, в результате контакта с деревом не вышли из строя линии электропередач. Никто из операторов не обнаружил проблему, которая приняла волнообразный характер.

Одна за другой стали выключаться перегруженные линии электропередач в Нью-Йорке, Онтарио, Мичигане и так далее. Проблема переросла в настоящую катастрофу, и все из-за единственной выключенной сигнализации.

После данного случая компания стала устанавливать дублирующие системы сигнализации на все электростанции.

Источник: http://gagadget.com/science/26065-chelovecheskij-faktor-7-katastroficheskih-posledstvij-programmnyih-oshibok/

Топ-6 катастроф, произошедших по вине программного обеспечения

Топ-6 катастроф, произошедших по вине программного обеспечения

«Умное» программное обеспечение способно сделать жизнь людей проще, однако сбои в таких системах могут привести к катастрофическим последствиям. Нередко такие инциденты приводили к масштабным разрушениям и смерти. Ниже будут рассмотрены шесть наиболее серьезных катастроф, произошедших из-за сбоя ПО.

1. Ariane 5

4 июня 1996 года был запланирован старт ракеты Ariane 5. Однако ошибка в ПО модуля управления через 37 секунд после старта привела к самоуничтожению дорогостоящей ракеты.

В 2013 году сбой в программном обеспечении чуть не привел к банкротству корпорации Knight Capital. Компания буквально за полчаса потеряла полмиллиарда долларов – компьютеры неожиданно стали продавать и покупать миллионы акций без участия людей. В результате инцидента за двое суток акции упали на 75%.

3. Therac-25

В 1980-е годы не менее 5 пациентов погибли после того, как получили слишком большую дозу рентгеновского излучения. Это произошло в результате ошибки в программе блока управления установки Therac-25. Эксперты пришли к выводу, что ошибка в коде приводила к многократному выполнению одной команды.

4. Amazon

Летом 2013 года отключение серверов компании Amazon привело к потере данных пользователей, хранящихся в «облаке». Сбой, изначально вызванный сильной грозой, быстро усугубился ошибками в программном обеспечении. Это привело к каскадному сбою.

5. General Electric Energy

В 2003 году на северо-востоке США было зафиксировано массовое отключение электроэнергии. Изначально это был локальный сбой, который не был вовремя зафиксирован из-за ошибки в ПО, что и привело к каскадному сбою.

6. American Airlines

В 2014 году программная ошибка заблокировала работу всего воздушного флота компании American Airlines. Крупный сбой в системе для бронирования билетов произошел вследствие работ по слиянию нескольких авиакомпаний. Есть версии, что проблемы возникли после неудачной попытки осуществить слияние платформы созданные при помощи разных языков программирования.

Источник: http://BaseTop.ru/top-6-katastrof-proizoshedshih-po-vine-programmnogo-obespecheniya/

Наиболее распространенные угрозы | Лекция | НОУ ИНТУИТ

Аннотация: Знание возможных угроз, а также уязвимых мест защиты, которые эти угрозы обычно эксплуатируют, необходимо для того, чтобы выбирать наиболее экономичные средства обеспечения безопасности.

Угроза — это потенциальная возможность определенным образом нарушить информационную безопасность.

Попытка реализации угрозы называется атакой , а тот, кто предпринимает такую попытку, — злоумышленником . Потенциальные злоумышленники называются источниками угрозы .

Чаще всего угроза является следствием наличия уязвимых мест в защите информационных систем (таких, например, как возможность доступа посторонних лиц к критически важному оборудованию или ошибки в программном обеспечении).

Промежуток времени от момента, когда появляется возможность использовать слабое место, и до момента, когда пробел ликвидируется, называется окном опасности, ассоциированным с данным уязвимым местом. Пока существует окно опасности, возможны успешные атаки на ИС.

Если речь идет об ошибках в ПО, то окно опасности «открывается» с появлением средств использования ошибки и ликвидируется при наложении заплат, ее исправляющих.

Для большинства уязвимых мест окно опасности существует сравнительно долго (несколько дней, иногда — недель), поскольку за это время должны произойти следующие события:

  • должно стать известно о средствах использования пробела в защите;
  • должны быть выпущены соответствующие заплаты;
  • заплаты должны быть установлены в защищаемой ИС.

Мы уже указывали, что новые уязвимые места и средства их использования появляются постоянно; это значит, во-первых, что почти всегда существуют окна опасности и, во-вторых, что отслеживание таких окон должно производиться постоянно, а выпуск и наложение заплат — как можно более оперативно.

Отметим, что некоторые угрозы нельзя считать следствием каких-то ошибок или просчетов; они существуют в силу самой природы современных ИС. Например, угроза отключения электричества или выхода его параметров за допустимые границы существует в силу зависимости аппаратного обеспечения ИС от качественного электропитания.

Рассмотрим наиболее распространенные угрозы, которым подвержены современные информационные системы.

Иметь представление о возможных угрозах, а также об уязвимых местах, которые эти угрозы обычно эксплуатируют, необходимо для того, чтобы выбирать наиболее экономичные средства обеспечения безопасности.

Слишком много мифов существует в сфере информационных технологий (вспомним все ту же «Проблему 2000»), поэтому незнание в данном случае ведет к перерасходу средств и, что еще хуже, к концентрации ресурсов там, где они не особенно нужны, за счет ослабления действительно уязвимых направлений.

Подчеркнем, что само понятие » угроза » в разных ситуациях зачастую трактуется по-разному.

Например, для подчеркнуто открытой организации угроз конфиденциальности может просто не существовать — вся информация считается общедоступной; однако в большинстве случаев нелегальный доступ представляется серьезной опасностью.

Иными словами, угрозы, как и все в ИБ, зависят от интересов субъектов информационных отношений (и от того, какой ущерб является для них неприемлемым).

Мы попытаемся взглянуть на предмет с точки зрения типичной (на наш взгляд) организации. Впрочем, многие угрозы (например, пожар) опасны для всех.

Угрозы можно классифицировать по нескольким критериям:

  • по аспекту информационной безопасности (доступность, целостность, конфиденциальность), против которого угрозы направлены в первую очередь;
  • по компонентам информационных систем, на которые угрозы нацелены (данные, программы, аппаратура, поддерживающая инфраструктура);
  • по способу осуществления (случайные/преднамеренные, действия природного/техногенного характера);
  • по расположению источника угроз (внутри/вне рассматриваемой ИС).

В качестве основного критерия мы будем использовать первый (по аспекту ИБ), привлекая при необходимости остальные.

Самыми частыми и самыми опасными (с точки зрения размера ущерба) являются непреднамеренные ошибки штатных пользователей, операторов, системных администраторов и других лиц, обслуживающих информационные системы.

Иногда такие ошибки и являются собственно угрозами (неправильно введенные данные или ошибка в программе, вызвавшая крах системы), иногда они создают уязвимые места, которыми могут воспользоваться злоумышленники (таковы обычно ошибки администрирования). По некоторым данным, до 65% потерь — следствие непреднамеренных ошибок.

Пожары и наводнения не приносят столько бед, сколько безграмотность и небрежность в работе.

Очевидно, самый радикальный способ борьбы с непреднамеренными ошибками — максимальная автоматизация и строгий контроль.

Другие угрозы доступности классифицируем по компонентам ИС, на которые нацелены угрозы:

  • отказ пользователей ;
  • внутренний отказ информационной системы;
  • отказ поддерживающей инфраструктуры.

Обычно применительно к пользователям рассматриваются следующие угрозы:

  • нежелание работать с информационной системой (чаще всего проявляется при необходимости осваивать новые возможности и при расхождении между запросами пользователей и фактическими возможностями и техническими характеристиками);
  • невозможность работать с системой в силу отсутствия соответствующей подготовки (недостаток общей компьютерной грамотности, неумение интерпретировать диагностические сообщения, неумение работать с документацией и т.п.);
  • невозможность работать с системой в силу отсутствия технической поддержки (неполнота документации, недостаток справочной информации и т.п.).

Основными источниками внутренних отказов являются:

  • отступление (случайное или умышленное) от установленных правил эксплуатации;
  • выход системы из штатного режима эксплуатации в силу случайных или преднамеренных действий пользователей или обслуживающего персонала (превышение расчетного числа запросов, чрезмерный объем обрабатываемой информации и т.п.);
  • ошибки при (пере)конфигурировании системы;
  • отказы программного и аппаратного обеспечения;
  • разрушение данных;
  • разрушение или повреждение аппаратуры.

По отношению к поддерживающей инфраструктуре рекомендуется рассматривать следующие угрозы:

  • нарушение работы (случайное или умышленное) систем связи, электропитания, водо- и/или теплоснабжения, кондиционирования;
  • разрушение или повреждение помещений;
  • невозможность или нежелание обслуживающего персонала и/или пользователей выполнять свои обязанности (гражданские беспорядки, аварии на транспорте, террористический акт или его угроза, забастовка и т.п.).

Весьма опасны так называемые «обиженные» сотрудники — нынешние и бывшие. Как правило, они стремятся нанести вред организации-«обидчику», например:

  • испортить оборудование;
  • встроить логическую бомбу, которая со временем разрушит программы и/или данные;
  • удалить данные.

Обиженные сотрудники, даже бывшие, знакомы с порядками в организации и способны нанести немалый ущерб. Необходимо следить за тем, чтобы при увольнении сотрудника его права доступа (логического и физического) к информационным ресурсам аннулировались.

Опасны, разумеется, стихийные бедствия и события, воспринимаемые как стихийные бедствия,- пожары, наводнения, землетрясения, ураганы. По статистике, на долю огня, воды и тому подобных » злоумышленников » (среди которых самый опасный — перебой электропитания) приходится 13% потерь, нанесенных информационным системам.

Источник: https://www.intuit.ru/studies/courses/10/10/lecture/300

Катастрофы, произошедшие по вине программных ошибок

Катастрофы, произошедшие по вине программных ошибок

Время прочтения:<\p>

Каким бы совершенным и надежным не было программное обеспечение, практика показывает, что сбои в работе ПО будут всегда. Чаще всего подобные ошибки имеют локальный характер, поэтому в короткие сроки исправляются специалистами.

Впрочем, бывали случаи, когда баги в программах являлись причиной аварий, повлекших за собой гибель людей и многомиллионные убытки.

5. Авария Ariane 5: ошибка стоимостью $500 млн

4 июня 1996 с космодрома «Куру» Европейским космическим агентством была впервые запущена новая ракета-носитель Ariane 5.

Поначалу все шло по плану: ракета стартовала, оставив после себя гигантские клубы газа, но неожиданно на 37 секунде полета на высоте 4 км она резко отклонилась от курса и самоуничтожилась.

В результате аварии потеряли 4 спутника, что были на борту ракеты.

Они предназначались для изучения магнитного поля Земли.

До сих пор эта катастрофа считается самой крупной аварией в истории по величине убытков.

Причина всего — программная ошибка.

Сразу же после инцидента ведущие мировые эксперты провели независимое расследование.

В результате чего выяснили, что причиной аварии стали многочисленные ошибки в программном обеспечении бортовых компьютеров Ariane 5.

4. Toyota и 7134 ошибок в коде

Несколько лет назад была опубликована страшная статистика: в период с 2000 по 2010 год ошибки в программном коде автомобилей Toyota стали причиной гибели 89 человек.

Расследование получило широкий резонанс, ведь ранее никто не догадывался об истинных причинах аварий (все сводилось к таким классическим вариантам как невнимательность водителей и плохие погодные условия).

Расследование проводилось более 10 месяцев совместными усилиями нескольких правительственных агентств.

В ходе проверки выявили ужасающий факт: ПО автомобилей содержало 7134 ошибок в программном коде.

Toyota до сих пор отрицает вину программного обеспечения своей бортовой системы и утверждает, что результаты исследования были сфабрикованы и не соответствуют действительности.

3. Therac-25: лечение с летальным исходом

С 1985 по 1987 год в ходе сеансов лучевой терапии с использованием медицинского аппарата Therac-25 погибли как минимум 6 человек.

Все они получили смертельную дозу радиации.

Аппарат разработала канадская государственная медицинская организация.

Его применяли для лечения опухолей высокоэнергетическими лучами.

В Therac-25 имелась программная защита от рентгеновских лучей.

Примечательно, что ПО создал всего один человек, а это более 20 миллионов строк кода, написанных на устаревшем языке программирования.

В 1985 году это ПО установили на большинство действующих в то время аппаратов Therac-25.

Спустя несколько дней после этого устройство, которое до этого работало безупречно стало причиной первого смертельного случая, зарегистрированного при сеансе лучевой терапии.

Вначале медицинские работники винили во всем плохое состояние пациентов и аппаратное обеспечение устройства.

Однако после очередного смертельного случая было проведено масштабное расследование.

Эксперты доказали, что причиной смертельного облучения пациентов стали многочисленные ошибки в программном коде, в результате чего одна и та же команда выполнялась многократно.

2. Блэкаут в США:  всё, электричество кончилось!

Программная ошибка в системе мониторинга электрооборудования корпорации General Electric стала причиной одного из самых масштабных блэкаутов.

В результате аварии на несколько часов более 50 млн жителей США остались без электричества.

14 августа 2003 года программная ошибка привела к незапланированной перезагрузке системы мониторинга оборудования на одной из электростанций, в результате чего отключилась система сигнализации.

По злополучному стечению обстоятельств вскоре после этого в штате Огайо из-за упавшего дерева произошло отключение линии электропередач.

Поскольку система сигнализации была отключена, операторы электростанции не обнаружили сбоя.

В итоге локальная поломка обрела по-настоящему катастрофический масштаб: в крупнейших городах восточного побережья один за другим начали отключаться перегруженные линии электропередач.

1. Однажды в Джорджии: остановка работы АЭС

Масштабный инцидент на крупной атомной электростанции в штате Джорджия — работа АЭС была остановлена более чем на двое суток.

Позже выяснилось, что причиной этому послужила банальная переустановка программного обеспечения на одном из основных управляющих компьютеров, который отвечает за диагностику главных систем станции.

После обновления ПО компьютер автоматически перезагрузился, при этом уничтожив часть данных о контроле показателей уровня радиации.

В итоге система безопасности АЭС восприняла потерю информации за внешнюю утечку радиоактивных веществ и полностью остановила эксплуатацию всех систем станции на 48 часов.

Источник: https://mag-m.com/texnologii/katastrofyi,-proizoshedshie-po-vine-programmnyix-oshibok.html

Программный комплекс TOXI+Risk 5

Программный комплекс TOXI+Risk 5 разработан в соответствии с действующими нормативно-методическими документами Ростехнадзора (сертификаты соответствия № РОСС RU.СП15.Н00887 и РОСС RU.СП15.

Н00888), МЧС России, Росгидромета, государственными и отраслевыми стандартами ОАО Газпром (сертификат соответствия № РОСС RU.СП15.Н00889).

TOXI+Risk 5 является развитием программного комплекса TOXI+, включенного в Фонд алгоритмов, программ и баз данных Государственной противопожарной службы (Регистрационное свидетельство №108 от 11 ноября 2011 г.).

TOXI+Risk 5 в 2016 году включен в единый реестр российских программ для электронных
вычислительных машин и баз данных Минкомсвязи России.

Некоммерческие версии программных продуктов серии TOXI+Risk безвозмездно предоставлены для применения в учебном процессе ведущим ВУЗам: Академии ГПС МЧС России, Российскому химико-технологическому университету им. Д.И.

Менделеева, Московскому государственному техническому университету им. Н.Э. Баумана, Национальному исследовательскому ядерному университету «МИФИ», Российскому государственному университету нефти и газа им. Губкина и др..

Области применения

Программный комплекс TOXI+Risk 5 служит для автоматизации вычислений и подготовки разделов технической документации при:

  • проектировании производственных объектов, на которых получаются, используются, перерабатываются, образуются, хранятся, транспортируются, уничтожаются опасные вещества;
  • разработке деклараций промышленной и пожарной безопасности;
  • разработке планов локализации и ликвидации аварийных ситуаций;
    разработке ИТМ ГО и ЧС;
  • разработке мероприятий по защите персонала и населения от возможных аварий;
  • оценке воздействия аварийных выбросов ОВ на окружающую среду;
  • расчетах пожарного риска;
  • количественном анализе риска аварий на ОПО;
  • разработке специальных технических условий;
  • разработке обоснований безопасности ОПО;
  • оценке взрывоустойчивости зданий и сооружений;
  • обязательном страховании ответственности владельцев ОПО;
  • проведении иных процедур, связанных с оценкой последствий выбросов ОВ.

Перечень возможностей

Программный комплекс TOXI+Risk 5 позволяет визуализировать результаты расчетов на планах местности, выполненных в векторном и растровом форматах (dxf, dwg, bmp, jpg), проводить оценку числа людей, попавших в зоны действия опасных факторов, погибших, МВКП, строить поля потенциального риска, а также поля частот превышения выше заданного уровня  избыточного давления и импульса от нескольких источников опасности для различных сценариев аварии, рассчитывать коллективный, индивидуальный и социальный риски.

С помощью программного комплекса могут быть решены следующие расчетные задачи:

  • Расчет показателей риска на территории опасного производственного объекта и за его пределами [1-3, 14]:
    • Расчет и визуализация территориального потенциального риска;
    • Построение сечений потенциального риска;
    • Расчет коллективного, индивидуального, социального (F-N диаграмма) риска аварий;
    • Расчет индивидуального и социального пожарного риска;
    • Оценка возможного числа погибших и пострадавших в результате аварий на ОПО, а также МВКП;
    • Расчет последствий аварий.
  • Расчет взрывоустойчивости зданий и сооружений [4, 5]:
    • Детерминированный подход к обоснованию взрывоустойчивости зданий и сооружений на основании расчета зон поражения ударной волной при взрыве ТВС;
    • Вероятностный подход к обоснованию взрывоустойчивости зданий и сооружений на основании количественного анализа риска и частоты превышения избыточного давления и импульса ударных волн при взрывах ТВС. Расчет территориального поля частот превышения избыточного давления ударных волн при взрывах ТВС, построение F-P диаграмм;
  • Учет смещения центра взрыва облака ТВС с учетом дрейфа под действием ветра [5, 10, 11];
  • Расчет пожарного риска в производственных и непроизводственных зданиях [14, 15]:
    • Определение расчетного времени эвакуации по интегральной аналитической модели движения людского потока;
    • Расчет времени блокирования путей эвакуации опасными факторами пожара и показателей пожарного риска в помещении по аналитическим соотношениям для определения критической продолжительности пожара;
    • Оценка показателей пожарного риска в зданиях, сооружениях и строениях с учетом средств оповещения и пожаротушения, а также времени эвакуации людей и блокирования эвакуационных путей.
  • Моделирование рассеяния опасных веществ в атмосфере (по моделям «тяжелого» и «легкого» газов) [10, 11]:
    • Оценка количества опасного вещества, поступившего в атмосферу при различных сценариях аварии;
    • Моделирование рассеяния в открытом пространстве опасных веществ;
    • Расчет зон токсического поражения человека и зон возможного воспламенения (взрыва) облаков топливно-воздушных смесей (ТВС);
    • Оценка взрывоопасной массы горючего в облаках ТВС и их перемещения (дрейфа) с учетом времени, прошедшего с начала выброса.
  • Моделирование взрывов облаков ТВС [12]:
    • Оценка параметров воздушных ударных волн (избыточного давления на фронте волны сжатия, импульса, длительности фазы сжатия и разряжения) с учетом загроможденности окружающего пространства, скорости взрывного превращения (детонация, дефлаграция) и фазового состава облака;
    • Определение зон поражения людей и повреждения зданий в результате взрывов облаков ТВС по различным критериям поражения (по избыточному давлению, по избыточному давлению и импульсу, вероятностное поражение по пробит-функциям).
  • Моделирование взрывов облаков ТВС с учетом тротилового эквивалента вещества, а также взрывов конденсированных взрывчатых веществ [4, 13, 14]:
    • Оценка избыточного давления на фронте ударной волны;
  • Расчет последствий теплового воздействия от пожара пролива, огненного шара, аварийных факелов, пожара-вспышки (в штилевых условиях) [13, 14]:
    • Оценка зон поражения открытым пламенем и тепловым излучением, выделяемым при горении ОВ с учетом детерминированных и вероятностных (пробит-функция) критериев поражения;
  • Расчет зон теплового воздействия стационарных факельных систем [15]:
    • Оценка зон интенсивности теплового излучения с учетом скорости выброса ОВ, конструктивных параметров стационарной факельной системы и скорости ветра;
  • Расчет массовой скорости истечения горючих газов, зон загазованности и зон теплового воздействия при авариях на магистральных газопроводах [17]:
    • Оценка массовой скорости истечения и общего количества газов, поступивших в окружающую среду, при гильотинном разрыве газопровода с учетом длительности истечения;
    • Оценка зон возможного возгорания горючих газов, поступивших в результате аварии на магистральном газопроводе;
    • Оценка зон поражения тепловым излучением при струевом горении газа по детерминированным и вероятностным (пробит-функция) критериям поражения при образовании вертикальных («пожар в котловане») и настильных горящих струй газа;
  • Расчет размеров разрушения и частоты их возникновения на магистральных нефте- и газопроводах [14]:
  • Расчет зон возможного поражения осколками при аварийном разрушении емкостного оборудования [17]:
    • Расчет баллистической траектории разлета осколков при разрушении надземного и подземного оборудования (резервуаров, трубопроводов);
    • Расчет зон вероятностного поражения человека осколками;
  • Расчет категории помещений по взрывопожарной и пожарной опасности [18]:
    • Определение категории помещений по взрывопожарной и пожарной опасности А, Б, В1-4, Г, Д;
  • Расчет концентрации в атмосферном воздухе вредных веществ, содержащихся в выбросах предприятий [19]:
    • Расчет зон предельно допустимой концентрации вредных веществ в воздухе от нескольких стационарных источников выброса предприятий;
  • Расчет зон радиационного заражения при авариях на энергетических реакторах:
    • Расчет зон радиоактивного заражения в соответствии с уровнями радиации (слабый, умеренный, сильный), времени подхода радиоактивного облака к местам расположения людей с учетом погодных условий и времени суток;
  • Расчет свойств природного газа [20-24]:
    • Расчет свойств природного газа с учетом состава смеси газа и объемной доли компонентов смеси;
  • Использование встроенных справочников:
    • опасных веществ и пожарных нагрузок;
    • типового емкостного оборудования;
    • деревьев событий, а также размеров и частот аварийных разрушений на основе методических документов [1, 2, 3, 6, 7, 8, 9];
  • Вывод отчетов о результатах расчетов в формате MS Word и MS Excel.

Нормативно-методические документы

  1. Руководство по безопасности «Методика оценки риска аварий на опасных производственных объектах нефтегазоперерабатывающей, нефте- и газохимической промышленности» (утв. приказом Ростехнадзора от 29.06.2016 № 272, разделы III, IV, приложения 4, 5);

Источник: https://toxi.ru/produkty/programmnyi-kompleks-toxirisk-5

Ссылка на основную публикацию