Интеллектуальные ошибки это ошибки

Интеллектуальная скромность: почему важно признавать свои ошибки и как этому научиться

Са­мо­вос­хва­ле­ние и бра­ва­да ста­ли прак­ти­че­ски но­вой нор­мой в мире со­ци­аль­ных се­тей и по­все­мест­но­го мар­ке­тин­га. Скром­ность се­го­дня вос­при­ни­ма­ет­ся как ка­че­ство ста­ро­мод­ное и даже бес­по­лез­ное. Быть мо­жет, так про­ис­хо­дит из-за того, что мы про­сто за­бы­ли, от­ку­да бе­рет­ся со­мне­ние в соб­ствен­ных зна­ни­ях или уме­ни­ях и как оно по­мо­га­ет нам в са­мо­раз­ви­тии? Пе­ре­ска­зы­ва­ем те­зи­сы ста­тьи на­уч­но­го жур­на­ли­ста Vox Брай­а­на Рез­ни­ка.

Что та­кое ин­тел­лек­ту­аль­ная скром­ность

По сло­вам со­ци­аль­но­го пси­хо­ло­га Мар­ка Лири, ин­тел­лек­ту­аль­ная скром­ность (In­tel­lec­tual hu­mil­ity) — это го­тов­ность при­знать, что ваши убеж­де­ния мо­гут быть оши­боч­ны­ми. Это опре­де­лен­ный ме­тод мыш­ле­ния, в ос­но­ве ко­то­ро­го ле­жит от­кры­тость но­во­му опы­ту и ак­тив­ный ин­те­рес к соб­ствен­ным сле­пым пят­нам.

Ис­сле­до­ва­ния со­ци­аль­ных пси­хо­ло­гов так­же по­ка­зы­ва­ют, что люди, об­ла­да­ю­щие ин­тел­лек­ту­аль­ной скром­но­стью, охот­нее го­то­вы слу­шать и при­ни­мать ар­гу­мен­ты сво­их оп­по­нен­тов. Кро­ме того, они с боль­шей вни­ма­тель­но­стью от­но­сят­ся к до­ка­за­тель­ной базе и ча­сто ин­ту­и­тив­но чув­ству­ют, ко­гда их вы­ска­зы­ва­ние мо­жет ока­зать­ся невер­ным.

Ин­тел­лек­ту­аль­ная скром­ность — это го­тов­ность при­знать, что ваши убеж­де­ния мо­гут быть оши­боч­ны­ми

Та­кой на­бор ка­честв опре­де­лен­но бу­дет по­ле­зен ме­не­дже­рам и ру­ко­во­ди­те­лям: ведь от их уме­ния быть гиб­ки­ми и при­слу­ши­вать­ся к мне­нию кол­лег ча­сто за­ви­сит успех всей ком­па­нии. В со­вре­мен­ном об­ще­стве нема­ло при­ме­ров пред­при­я­тий, ко­то­рые по­тер­пе­ли крах из-за са­мо­уве­рен­но­сти ли­де­ров — из недав­них при­ме­ров мож­но вспом­нить гром­кий про­вал фе­сти­ва­ля Fyre или не ме­нее шум­ную ис­то­рию во­круг ком­па­нии We­Work и ее быв­ше­го CEO Ада­ма Нью­ман­на. В обо­их слу­ча­ях кре­а­тив­ные ру­ко­во­ди­те­ли были на­столь­ко опья­не­ны соб­ствен­ным мас­штаб­ны­ми иде­я­ми, что со­вер­шен­но по­те­ря­ли связь с ре­аль­но­стью и по­та­щи­ли с со­бой на дно ты­ся­чи лю­дей.

В мире, где ложь и фей­ко­вые но­во­сти рас­про­стра­ня­ют­ся как ни­ко­гда быст­ро, бла­го­да­ря циф­ро­вым тех­но­ло­ги­ям, ин­тел­лек­ту­аль­ная скром­ность и лю­бо­пыт­ство при­об­ре­та­ют осо­бен­ную цен­ность, от­ме­ча­ет Рез­ник.

Что ме­ша­ет нам при­зна­вать свои ошиб­ки

На пути к ин­тел­лек­ту­аль­ной скром­но­сти мы стал­ки­ва­ем­ся с тре­мя се­рьез­ны­ми вы­зо­ва­ми:

• Необ­хо­ди­мость отыс­кать сле­пые пят­на в сво­ем ми­ро­вос­при­я­тии и об­на­жить лич­ные предубеж­де­ния. На­учить­ся скром­но­сти удаст­ся, лишь при­знав соб­ствен­ную уяз­ви­мость. А для это­го нуж­на храб­рость.
• Об­на­ру­жив соб­ствен­ные несо­вер­шен­ства, нуж­но быть го­то­вым за­явить о них пуб­лич­но. Ча­сто нам ка­жет­ся, что это при­ве­дет к об­ще­ствен­но­му осуж­де­нию и про­кля­ти­ям в нашу сто­ро­ну. Нена­вист­ни­ки най­дут­ся все­гда, од­на­ко на са­мом деле вы встре­ти­те го­раз­до боль­ше под­держ­ки и по­ни­ма­ния, чем об­ви­не­ний.
• Мы ни­ко­гда не смо­жем до­стичь иде­аль­ной ин­тел­лек­ту­аль­ной скром­но­сти. По­это­му сто­ит все­гда со­мне­вать­ся в сво­их убеж­де­ни­ях.

Как по­бе­дить соб­ствен­ное неве­же­ство

Как бы мы ни хо­те­ли до­ве­рять соб­ствен­ным ушам, гла­зам и моз­гу, мно­гие вещи и яв­ле­ния в этом мире оста­ют­ся пред­ме­том ин­тер­пре­та­ции, а не объ­ек­тив­ной ре­аль­но­стью. Свет по­па­да­ет в наши гла­за, зву­ко­вые вол­ны про­ни­ка­ют в наши уши — и от на­ше­го моз­га за­ви­сит, как все эти сиг­на­лы трак­то­вать.

Пер­цеп­тив­ные трю­ки, та­кие, на­при­мер, как кар­тин­ка с пла­тьем вни­зу, по­ка­зы­ва­ют, на­сколь­ко че­ло­ве­че­ское вос­при­я­тие несо­вер­шен­но. Рас­смат­ри­вая фо­то­гра­фию, мы по­про­сту га­да­ем, ка­кие цве­та ви­дим пе­ред со­бой. И даже ко­гда мы, ка­за­лось бы, на­учи­лись скеп­ти­че­ски от­но­сить­ся к на­уч­ным и тех­но­ло­ги­че­ским от­кры­ти­ям, по­рой бы­ва­ет слож­но усо­мнить­ся в соб­ствен­ных убеж­де­ни­ях и вос­при­я­тии.

Swiked / Tumblr for the dress

«Соб­ствен­ное неве­же­ство за­ча­стую оста­ет­ся неви­ди­мым для нас», — го­во­рит Дэ­вид Дан­нинг, экс­перт по сле­пым пят­нам че­ло­ве­че­ско­го со­зна­ния. В 1999 году, изу­чая во­про­сы са­мо­оцен­ки и са­мо­вос­при­я­тия, Дан­нинг и его кол­ле­га, пси­хо­лог Джа­стин Крю­гер, об­на­ру­жи­ли: чем хуже че­ло­век уме­ет что-то де­лать, тем бо­лее он скло­нен пе­ре­оце­ни­вать соб­ствен­ные на­вы­ки. Этот пси­хо­ло­ги­че­ский фе­но­мен впо­след­ствии по­лу­чил имя эф­фек­та Дан­нин­га-Крю­ге­ра.

Рез­ник от­ме­ча­ет: рас­ска­зы­вая про эф­фект Дан­нин­га-Крю­ге­ра, люди чаще все­го свя­зы­ва­ют его с чу­жи­ми спо­соб­но­стя­ми. Хотя Дан­нинг под­чер­ки­ва­ет, что по­доб­ный фе­но­мен ка­са­ет­ся каж­до­го из нас. Ни­кто не за­щи­щен от ошиб­ки.

Схо­жим об­ра­зом мы склон­ны пе­ре­оце­ни­вать соб­ствен­ную па­мять. Со­вер­шен­но на­прас­но: ведь наши вос­по­ми­на­ния непо­хо­жи на до­ку­мен­таль­ные сним­ки ре­аль­но­сти, а мозг скло­нен ис­ка­жать ин­фор­ма­цию в поль­зу лич­ных убеж­де­ний.

Пер­вый се­рьез­ный шаг по на­прав­ле­нию к ин­тел­лек­ту­аль­ной скром­но­сти свя­зан с при­ня­ти­ем того фак­та, что по­ни­ма­ние мира огра­ни­че­но воз­мож­но­стя­ми на­ших ор­га­нов чувств.

Май­кл Линч, про­фес­сор фи­ло­со­фии из уни­вер­си­те­та Кон­нек­ти­ку­та го­во­рит: «Непра­виль­но ду­мать, буд­то про­бле­мы по­хо­жи на ку­бик Ру­би­ка, то есть име­ют лишь одно пол­ное ре­ше­ние». Ско­рее, про­дол­жа­ет Линч, мы спо­соб­ны в ка­кой-то мо­мент при­бли­зить­ся к по­ни­ма­нию про­бле­мы, и сде­лать окру­жа­ю­щий мир чу­точ­ку луч­ше. Это нам точ­но под­власт­но.

Зато при­зна­ние соб­ствен­ных оши­бок ока­зы­ва­ет­ся в дей­стви­тель­но­сти не та­ким пу­га­ю­щим и трав­ми­ру­ю­щим опы­том, как мы себе пред­став­ля­ем. Ис­сле­до­ва­ния со­ци­аль­ных пси­хо­ло­гов по­ка­зы­ва­ют, что че­ло­ве­ка, до­пу­стив­ше­го ошиб­ку, по­чти ни­ко­гда не об­ви­ня­ют в неком­пе­тент­но­сти и не под­вер­га­ют пуб­лич­но­му осуж­де­нию. Ка­ким бы стран­ным это вам ни ка­за­лось, огля­ды­ва­ясь на год, в ко­то­ром од­ним из глав­ных со­ци­аль­ных фе­но­ме­нов ста­ла «куль­ту­ра от­ме­ны».

Впро­чем, важ­но пом­нить, что скром­ность — это про­дукт опре­де­лен­ной сре­ды. По­это­му идея ин­тел­лек­ту­аль­ной скром­но­сти мо­жет стать эф­фек­тив­ной, лишь ко­гда она бу­дет вклю­че­на в на­уч­ную прак­ти­ку и лю­бую дру­гую об­ще­ствен­ную де­я­тель­ность. Об­ще­ство долж­но на­учить­ся при­ни­мать ошиб­ки и про­ва­лы.

Один из успеш­ных и вдох­нов­ля­ю­щих пре­це­ден­тов, по­ощ­ря­ю­щих куль­ту­ру при­ня­тия про­ма­хов, был при­ду­ман пси­хо­ло­гом Джу­ли­ей Ро­рер. Ро­рер ос­но­ва­ла про­ект под на­зва­ни­ем «По­те­ря уве­рен­но­сти». Это пло­щад­ка для уче­ных, ко­то­рые го­то­вы при­знать, что боль­ше не ве­рят в точ­ность сво­их от­кры­тий, сде­лан­ных ра­нее. На этой пло­щад­ке ни­кто не бу­дет опус­кать­ся до трав­ли или оскор­би­тель­ных ком­мен­та­ри­ев. На се­го­дняш­ний день бла­го­да­ря плат­фор­ме было сде­ла­но уже шесть при­зна­ний в по­те­ре уве­рен­но­сти.

Ро­рер ста­вит пе­ред со­бой за­да­чу сти­му­ли­ро­вать ака­де­ми­че­скую сфе­ру к то­ле­рант­но­сти по от­но­ше­нию к ошиб­кам. Про­ект ра­бо­та­ет на зло­бу дня: в по­след­нее вре­мя по­яв­ля­ет­ся все боль­ше опро­вер­же­ний тех или на­уч­ных ги­по­тез и от­кры­тий. И для со­ци­аль­ных уче­ных — это боль­шой удар, так как зна­чи­тель­ная часть (60%) клас­си­че­ских ис­сле­до­ва­ний при про­ве­де­нии по­втор­ных экс­пе­ри­мен­тов не под­твер­жда­ют­ся, и вся, преж­де строй­ная, на­уч­ная база в од­но­ча­сье раз­ру­ша­ет­ся.

По мне­нию Брай­на Рез­ни­ка, ин­тел­лек­ту­аль­ная скром­ность се­го­дня важ­на по двум при­чи­нам. Во-пер­вых, по­то­му что со­вре­мен­ная куль­ту­ра по­ощ­ря­ет са­мо­уве­рен­ность и вы­со­ко­ме­рие (ина­че как объ­яс­нить из­бра­ние До­наль­да Трам­па пре­зи­ден­том США, к при­ме­ру?). Во-вто­рых, ко­гда мы оши­ба­ем­ся, ока­зы­ва­ет­ся крайне слож­но за­явить об этом из-за опа­се­ний в трав­ле и пуб­лич­но­го уни­же­ния. Наша куль­ту­ра че­рес­чур за­цик­ле­на на идее успе­ха и ге­ро­из­ма, по­это­му люди не го­то­вы при­нять чу­жие про­ма­хи и не пре­вра­щать все в шоу. Это долж­но из­ме­нить­ся.

Пять ти­пов скром­но­сти, ко­то­рые по­мо­гут вам в жиз­ни

Джу­дит Хам­ф­ри, по­стро­ив­шая свою ка­рье­ру на обу­че­нии ме­не­дже­ров ора­тор­ско­му ма­стер­ству и эмо­ци­о­наль­но­му ин­тел­лек­ту, вы­де­ля­ет пять ти­пов скром­но­сти, ко­то­рые ока­жут поль­зу в жиз­ни каж­до­му из нас:

Аль­тру­изм

По­на­блю­дай­те за со­бой: как ча­сто вы про­из­но­си­те пред­ло­же­ния, ко­то­рые на­чи­на­ют­ся со сло­ва «я»? Прав­да та­ко­ва, что мало кто за­хо­чет на­хо­дить­ся в ком­па­нии че­ло­ве­ка, по­сто­ян­но хва­ста­ю­ще­го­ся сво­и­ми уме­ни­я­ми и до­сти­же­ни­я­ми: «я сде­лал то и это», «я встре­тил того-то».

Ча­стое упо­треб­ле­ние лич­но­го ме­сто­име­ния слу­жит ин­ди­ка­то­ром: этот че­ло­век ду­ма­ет лишь о себе, его не за­бо­тят дру­гие. Хам­ф­ри го­во­рит, что, в част­но­сти, на­блю­да­ет за ре­чью по­тен­ци­аль­но­го ра­бот­ни­ка во вре­мя ин­тер­вью: если он слиш­ком мно­го го­во­рит от пер­во­го лица, она по­счи­та­ет это тре­вож­ным зна­ком.

Од­на­ко и в про­ти­во­по­лож­ную край­ность луч­ше не вда­вать­ся: стран­но от­кре­щи­вать­ся от соб­ствен­но­го вкла­да в об­щую ра­бо­ту.

Скром­ность

Рас­ска­зы­вать о сво­их до­сти­же­ни­ях важ­но, но не хва­ста­ясь. Хам­ф­ри при­во­дит при­мер: одна де­вуш­ка на нефор­маль­ной встре­че рас­ска­зы­ва­ла кол­ле­гам, как в кол­ле­дже она участ­во­ва­ла сра­зу в трех круж­ках — бас­кет­боль­ном, фут­боль­ном и хок­кей­ном. Прав­да, при­ня­ли ее туда, по­то­му что в тех­ни­че­ском кол­ле­дже очень не хва­та­ло де­во­чек в спор­тив­ных ко­ман­дах, до­ба­ви­ла она.

Сде­лай­те юмор сво­им ко­зы­рем, рас­ска­зы­вая о лич­ных успе­хах, ре­ко­мен­ду­ет Хам­ф­ри.

Ин­ди­ви­ду­аль­ность

Го­во­ри­те о сво­их несо­вер­шен­ствах и неуда­чах от­кры­то, сде­лай­те их ча­стью сво­е­го об­ра­за.

Илон Маск, как бы вы ни от­но­си­лись к его про­ек­там и взгля­дам, от­лич­но уме­ет поль­зо­вать­ся этим ору­жи­ем: он все­гда го­тов при­знать, что его экс­пе­ри­мен­ты мо­гут быть про­валь­ны­ми. Ко­гда во вре­мя ис­пы­та­ния ки­бер­т­ра­ка Tesla, все пошло не по пла­ну и ма­ши­на по­лу­чи­ла вну­ши­тель­ную вмя­ти­ну, несмот­ря на за­яв­ле­ния о ее неуяз­ви­мо­сти, Маск сде­лал пуб­лич­ное за­яв­ле­ние и объ­яс­нил, что про­изо­шло. Он не пы­тал­ся скрыть факт неудач­но­го те­ста.

Хам­ф­ри со­ве­ту­ет взять на во­ору­же­ние та­кой под­ход. Не пы­тай­тесь вы­гля­деть без­упреч­но, вам все рав­но ни­кто не по­ве­рит. Не бой­тесь при­зна­вать свои про­ма­хи и рас­ска­зы­вать, чему вы на­учи­лись, бла­го­да­ря неудач­но­му опы­ту.

Бла­го­дар­ность

Боль­шие про­ек­ты все­гда яв­ля­ют­ся ре­зуль­та­том кол­лек­тив­ной ра­бо­ты. У нас есть на­чаль­ни­ки, кол­ле­ги, мен­то­ры, под­держ­ка в виде се­мьи и близ­ких дру­зей. Каж­дый из этих лю­дей вкла­ды­ва­ет свои силы и вни­ма­ние, по­мо­гая нам быть бли­же к успе­ху.

По­это­му важ­но от­ме­чать до­сти­же­ния каж­до­го в ко­ман­де. Рас­ска­жи­те бос­су, ка­кую боль­шую ра­бо­ту про­де­ла­ли участ­ни­ки ва­ше­го кол­лек­ти­ва. От­ве­чая на во­про­сы по­тен­ци­аль­но­го ра­бо­то­да­те­ля, под­черк­ни­те, что ваши пер­со­наль­ные до­сти­же­ния были бы невоз­мож­ны без уча­стия та­лант­ли­вых мен­то­ров.

Ува­же­ние

Успеш­ные ли­де­ры уме­ют про­яв­лять бла­го­дар­ность и ува­же­ние. Вме­сто того, что­бы еди­но­лич­но воз­вы­шать­ся над все­ми на троне, они ста­ра­ют­ся быть вни­ма­тель­ны­ми к сво­им со­труд­ни­кам и при­слу­ши­вать­ся к ним.

Ува­же­ние мож­но про­яв­лять на раз­ных уров­нях: будь­те доб­рым (ува­жай­те чу­жие чув­ства), при­хо­ди­те во­вре­мя (ува­жай­те чу­жое вре­мя), слу­шай­те дру­гих (ува­жай­те чу­жое мне­ние).

2 Источники ошибок в программных средствах » СтудИзба

Человеку свойственно ошибаться.

Сенека

Лекция 2.

ИСТОЧНИКИ ОШИБОК В ПРОГРАММНЫХ СРЕДСТВАХ

Интеллектуальные возможности человека,  используемые  при разработке программных систем. Понятия о простых и сложных системах, о малых и больших системах. Неправильный перевод информации из одного представления в другое — основная причина  ошибок при разработке программных средств.  Модель перевода и источники ошибок.

·        Интеллектуальные возможности человека.

Дейкстра [2.1] выделяет три интеллектуальные возможности человека, используемые при разработке ПС:

способность к перебору,

способность к абстракции,

способность к математической индукции.

Способность человека к перебору связана с возможностью последовательного переключения внимания с одного предмета на другой, позволяя узнавать искомый предмет. Эта способность весьма ограничена — в среднем  человек  может уверенно (не сбиваясь) перебирать в пределах 1000 предметов (элементов). Человек должен научиться действовать с учетом этой своей ограниченности. Средством преодоления этой ограниченности является его способность к абстракции, благодаря которой человек может объединять разные предметы или экземпляры в одно понятие, заменять множество элементов одним элементом (другого рода). Способность человека к математической индукции позволяет ему справляться с бесконечными последовательностями.

При разработке ПС человек имеет дело с системами. Под системой будем понимать совокупность взаимодействующих (находящихся в отношениях) друг с другом элементов. ПС можно рассматривать как пример системы. Логически связанный набор программ является другим примером системы. Любая отдельная программа также является системой. Понять систему — значит осмысленно перебрать  все пути  взаимодействия между ее элементами. В силу ограниченности человека к перебору будем различать простые и  сложные  системы [2.2]. Под простой  будем понимать такую систему, в которой человек может уверенно перебирать все пути  взаимодействия  между  ее элементами,  а под сложной будем понимать такую систему, в которой он этого делать не в состоянии. Между простыми и сложными системами нет четкой границы, поэтому можно говорить и о промежуточном классе систем: к таким системам относятся программы, о которых программистский фольклор утверждает, что «в каждой отлаженной программе имеется хотя бы одна ошибка».

При разработке ПС мы не всегда можем уверенно знать о всех связях между ее элементами из-за возможных ошибок. Поэтому полезно уметь оценивать сложность системы по числу ее элементов: числом потенциальных путей взаимодействия между ее элементами, т.е. n! , где n — число ее элементов. Систему назовем малой, если n < 7 (6!  = 720 < 1000),  систему назовем большой, если n > 7. При  n=7  имеем промежуточный класс систем. Малая система всегда проста,  а большая может быть как простой, так и сложной. Задача технологии программирования — научиться делать большие системы простыми.

Полученная оценка простых систем по числу элементов широко используется на практике. Так, для руководителя коллектива весьма желательно, чтобы в нем не было  больше шести взаимодействующих между собой подчиненных. Весьма важно также следовать правилу: «все, что может быть сказано, должно быть сказано в шести пунктах или меньше». Этому правилу мы будем стараться  следовать в настоящем пособии: всякие перечисления взаимосвязанных утверждений (набор рекомендаций, список требований и т.п.) будут соответствующим образом группироваться и обобщаться. Полезно ему следовать и при разработке ПС.

Неправильный перевод как причина ошибок в программных средствах.

При разработке и использовании ПС мы многократно имеем дело [2.3, стр. 22-28] с преобразованием (переводом) информации из одной формы в другую (см. рис.2.1). Заказчик формулирует свои потребности в ПС в виде некоторых требований. Исходя из этих требований, разработчик создает внешнее описание ПС, используя при этом спецификацию (описание) заданной аппаратуры и, возможно, спецификацию базового программного обеспечения. На основании внешнего описания и спецификации языка программирования создаются тексты программ ПС на этом языке. По внешнему описанию ПС разрабатывается также и пользовательская документация. Текст каждой программы является исходной информацией при любом ее преобразовании, в частности, при исправлении в ней ошибки. Пользователь на основании документации выполняет ряд действий для применения ПС и осуществляет интерпретацию получаемых результатов. Везде здесь, а также в ряде других процессах разработки ПС, имеет место  указанный перевод информации.

Рис. 2.1. Грубая схема разработки и применения ПС.

На каждом из этих этапов перевод информации может быть осуществлен неправильно, например, из-за неправильного понимания исходного представления информации. Возникнув на одном из этапов разработки ПС, ошибка в представлении информации преобразуется в новые ошибки результатов, полученных на последующих этапах разработки, и, в конечном счете, окажется в ПС.

1.          Модель перевода.

Чтобы понять природу ошибок при переводе рассмотрим модель [2.3, стр. 22-28], изображенную на рис.2.2. На ней человек осуществляет перевод информации из представления A в представление B. При этом он совершает четыре основных шага перевода:

Рис.2.2. Модель перевода.

·   он получает информацию,  содержащуюся в представлении A, с помощью своего читающего механизма R;

·   он запоминает полученную информацию в своей памяти M;

·   он выбирает из своей памяти преобразуемую информацию и информацию, описывающую процесс преобразования, выполняет перевод и посылает результат своему пишущему механизму W;

·   с помощью этого механизма он фиксирует представление B.

На каждом из этих шагов человек может совершить ошибку разной природы. На первом шаге способность человека «читать между строк» (способность, которая часто оказывается полезной, позволяя   ему понимать текст, содержащий неточности или даже ошибки) может стать причиной ошибки в ПС. Ошибка возникает в том случае,  когда при чтении документа A человек,  пытаясь  восстановить недостающую информацию, видит то, что он ожидает, а не то, что имел в виду автор документа A.  В этом случае лучше было бы обратиться к автору документа за разъяснениями. При запоминании  информации человек осуществляет ее осмысливание (здесь важен его уровень подготовки и знание  предметной области, к которой относится документ A). И, если он поверхностно или неправильно поймет, то информация будет запомнена в искаженном виде. На третьем этапе забывчивость человека может привести к тому, что он может выбрать из своей памяти не всю преобразуемую информацию или не все правила перевода, в результате чего перевод будет осуществлен неверно. Это обычно происходит при большом объеме плохо организованной информации. И, наконец, на последнем этапе стремление  человека  быстрее  зафиксировать  информацию часто приводит к тому, что представление этой информации оказывается неточным, создавая ситуацию для последующей неоднозначной ее интерпретации.

2.4. Основные пути борьбы с ошибками.

Учитывая рассмотренные особенности действий человека при переводе можно указать следующие пути борьбы с ошибками:

сужение пространства перебора (упрощение создаваемых систем),

обеспечение требуемого уровня подготовки разработчика (это функции менеджеров коллектива разработчиков),

обеспечение однозначности интерпретации представления информации,

контроль правильности перевода (включая и контроль однозначности интерпретации).

Упражнения к лекции 2.

2.1. Что такое простая и сложная системы?

2.2. Что такое малая и большая системы?

Литература к лекции 2.

2.1. Э. Дейкстра. Заметки по структурному программированию /     У. Дал, Э. Дейкстра, К. Хоор. Структурное программирование. —     М.: Мир, 1975. — С. 7-19.

2.2. Е.А. Жоголев. Технологические основы модульного программирования. // Программирование, 1980, #2. —  С. 44-49.

1.     Г. Майерс. Надежность программного обеспечения. — М.: Мир,     1980.

Что такое интеллектуальное смирение и почему важно знать, что ты неправ — Нож

«Люди не хотят и не умеют признавать свои ошибки, и это большая культурная проблема. Нам необходимо поставить систему научного признания на новые рельсы. Должно быть нормальным признавать свою неправоту и не ожидать за это наказания или потери репутации», — говорит Джулия.

Этот проект как нельзя более своевремен: в последнее время огромное количество научных работ получает опровержение. По результатам повторения 100 психологических экспериментов подтвердились результаты лишь 40 % из них — достаточно болезненный факт для специалистов в области социальных наук.

За последние несколько месяцев мне удалось поговорить со многими представителями научного мира об интеллектуальном смирении — термине, который можно использовать для описания процесса признания своих ошибок.

Я пришел к выводу, что интеллектуальное смирение может стать мощным инструментом познания, особенно в сегодняшнем хитросплетенном мире, где становится всё легче и быстрее распространять неподтвержденную информацию. В таких условиях необходима скромность и любопытство, и позже я объясню, почему.

Вот три главных препятствия на пути к интеллектуальному смирению:

1. Мы можем не замечать собственные заблуждения. Наш мозг попадается в когнитивные ловушки мышления гораздо чаще, чем мы думаем. Поэтому нам необходимо как можно строже относиться к своим убеждениям.
2. Нам может не хватить смелости для слов «Я был неправ». Чтобы каждому из нас было проще признать свои ошибки, нужно избавиться от страха перед последствиями.
3. Полного интеллектуального смирения невозможно достичь. Нам нужно гораздо внимательнее относиться к собственным взглядам.

Одним словом, интеллектуальное смирение — сложная штука. Но оно того стоит!

Что такое интеллектуальное смирение?

По определению Марка Лири, специалиста в сфере социальной и личностной психологии Университета Дьюка, интеллектуальное смирение — это «умение признать, что твои убеждения могут оказаться неверными». Не стоит путать смирение интеллектуальное с самоуничижением или покорностью. Оно не имеет ничего общего с самобичеванием, отсутствием уверенности в своих действиях или низкой самооценкой. Интеллектуально смиренный человек не начинает грызть себя каждый раз, когда вспоминает о своих ошибках.

Интеллектуальное смирение — это, скорее, метод мышления, связанный с постоянной оценкой вероятности собственной неправоты и готовностью учиться на чужом опыте. Это качество позволяет нам постоянно исследовать собственные когнитивные недостатки. Именно оно заставляет ученого постоянно кружить около своей гипотезы, генерировать альтернативные объяснения какому-либо феномену и спрашивать себя: «Что еще я мог упустить?»

Интеллектуальное смирение не требует заоблачного IQ или развития особых навыков. Всё, что необходимо, — это обзавестись привычкой думать о собственной ограниченности.

Сама идея интеллектуального смирения далеко не нова. Французский мыслитель XVI века Мишель Монтень упоминал подобную концепцию в своих «Опытах»: «Если хочешь излечиться от невежества, надо в нем признаться» или «Безумие судить о том, что истинно, а что ложно, основываясь на своей осведомленности». Много позже социальные психологи выяснили, что смирение связано и с другими ценными чертами характера: люди, которые набирали больше баллов в опросниках по определению уровня интеллектуального смирения, были более склонны к адекватному восприятию противоположных точек зрения. Также они с большей готовностью искали информацию, которая противоречит их картине мира, более строго относятся к доказательной базе и демонстрируют большую уверенность в себе, когда отвечают на вопрос неправильно.

Спросите интеллектуального сноба, слышал ли он о каком-нибудь Краснорождественском восстании (явно выдуманном историческом событии). Он обязательно ответит «Конечно!» Интеллектуальные скромники вряд ли так сделают. Исследования показывают, что способность к рефлексии и аналитическое мышление тесно связаны со способностью отличить фейковые новости от настоящих.

И, конечно, интеллектуальные скромники с большей готовностью признают свою неправоту. А когда нам легко признать ошибки, мы становимся ближе к истине.

На мысли об интеллектуальном смирении меня натолкнули наблюдения за поведением Дональда Трампа, безусловно, одного из влиятельнейших людей на планете — и вместе с тем одного из самых известных фанфаронов и бахвалов. Это он с легкостью может бросаться заявлениями вроде «Да я в одиночку всё исправлю» или «У меня врожденное научное чутье».

Трамп — блестящий пример того, как в нашем обществе ценится не достоверность, а любая глупость, сказанная с достаточно уверенным видом.

Нам уже сравнительно давно известно, что высокомерный и самоуверенный стиль лидерства зачастую становится разрушительным для компаний (имеется в виду каноничный случай с энергетическим гигантом Enron, который обанкротился по причине недальновидных решений зарвавшихся топ-менеджеров).

Главная проблема излишней самоуверенности — в том, что она не победит истину. Можно сколько угодно и максимально уверенно отрицать экологические проблемы, но приближающаяся катастрофа всё расставит по своим местам (только будет уже поздно).

Сложно заметить собственное неведение

Когда я изучал психологические исследования интеллектуального смирения, в голове у меня всё время крутился один вопрос: можем ли мы все быть такими?

Наша культура вознаграждает выскочек и не терпит ошибок. Совершая неудачный шаг, мы боимся встретиться с осуждением или унижением.

Так как же в таких условиях повысить престиж интеллектуального смирения? Я задавал и этот вопрос многим ученым, и вот к каким выводам пришел.

Прежде всего важно помнить, насколько наш мозг подвержен когнитивным искажениям и насколько мы склонны игнорировать пробелы в наших знаниях. Главный способ борьбы с когнитивными искажениями — знать о них. Это поможет нам сбить собственную спесь.

Еще важная вещь: сложно увидеть то, чего мы не знаем. Поэтому ошибаться — это нормально. Ошибки расширяют наш кругозор. Помните нашумевшее бело-золотое или черно-синее платье? Даже такие простые мемы должны напоминать нам о том, как легко ввести наш мозг в заблуждение: мы даже с простым анализом цветового спектра справляемся по-разному, что уж говорить о более сложных вещах!

Первое правило клуба Даннинга — Крюгера

Наше восприятие мало дает нам в смысле поиска истины: мы никогда не можем быть уверены, что воспринимаем вещи объективно. Мы можем лишь предполагать. Нам это, безусловно, не нравится: как это, я воспринимаю мир неправильно?

Мы часто путаем легкие выводы с точными. Когда мы без труда можем сделать какое-нибудь утверждение (например, о цвете платья), нам сложно поверить в другую возможную версию. То же, кстати, происходит и с распространением ложных сведений: если мы многократно услышим какую-либо новость, с каждым новым разом мозгу становится всё легче на нее реагировать. Скорость реакции мы путаем с истиной.

Наша интерпретация реальности часто весьма недостоверна, но мы упрямо ее отстаиваем и считаем, что наши-то выводы точно верны, в отличие от выводов, к которым пришли другие люди.

Люди европеоидного типа часто приписывают афроамериканцам более высокий рост, крупное телосложение и увеличенную мышечную массу. Это типичное искажение по расовому признаку (с некоторой долей социального конструкта). Когда господствует мнение о том, что афроамериканцы более опасны и имеют больше проблем с криминалом, наш мозг искажает картину о реальной угрозе, исходящей от них, и вот вместо обычного человека мы уже видим головореза. Это заблуждение приводит нас к тому, что мы испытываем меньше эмпатии и более спокойно относимся к насилию, совершаемому по отношению к афроамериканцам.

«Мы не способны осознавать глубину своей некомпетенции», — говорит Дэвид Даннинг (тот самый, которому мы обязаны за эффект Даннинга — Крюгера — феномен, когда низкоквалифицированные люди совершают ошибки и не способны их осознать в силу своей низкой квалификации). За маской уверенного эксперта часто кроется лишь глупость и неопытность.

Особая ирония эффекта Даннинга — Крюгера состоит в том, что многие из нас неправильно интерпретируют его значение и слишком уверены в своем понимании. Как правило, когда мы рассуждаем об этом эффекте, мы подразумеваем, что ему подвержены окружающие — но никак не мы сами. Однако этот феномен рано или поздно настигает каждого. (Кстати, 65 % американцев убеждены, что обладают интеллектом выше среднего, что само по себе тоже достаточно иронично.)

А еще мы излишне уверены в собственной памяти. Мы ошибочно воспринимаем память как возможность отмотать пленку назад и в точности восстановить события. В действительности наша память весьма пластична, и воспоминания подвергаются изменениям постоянно.

Даннинг надеется, что его работа поможет людям понять, «насколько это естественно — не знать границы собственного неведения». Однако мы с легкостью смиряемся с неведением других людей и почти полностью отрицаем собственное. Первое правило клуба Даннинга — Крюгера — не знать, что ты состоишь в клубе Даннинга — Крюгера.

Никто не осудит тебя за то, что ты неправ

В 2012 году психолог Уилл Гервейс удостоился чести, о которой мечтают многие: публикации в авторитетном журнале Science. В своей работе вместе с коллегой Гервейс искал ответ на вопрос: как более рациональное мышление влияет на религиозные воззрения? В ходе эксперимента участники разглядывали либо статую Родена «Мыслитель», либо другое произведение искусства. Согласно гипотезе ученых, созерцание «Мыслителя» должно было настроить участников на более глубокие размышления и снизило бы их готовность разделить религиозную веру. Полученные ими экспериментальные данные подтвержили гипотезу. Журналисты с радостью разнесли это известие: еще бы, такой небольшой фокус, а как влияет на мышление!

Проблема была в том, что это исследование проводилось на крошечной выборке, а в таких случаях крайне повышен риск столкнуться с ложно-положительным результатом. Несколько лет спустя подобный эксперимент повторила другая научно-исследовательская лаборатория с гораздо большим количеством участников, и результаты эксперимента Гервейса были опровергнуты.

Несмотря на то что Гервейс знал о недостаточной точности своего исследования, ему пришлось очень непросто: «Разумом я понимал, что ничего страшного не случится, если я признаю ошибочность своего исследования. Но тут же в дело вступала моя личная реакция, которая говорила мне: „Блин, о моем провале узнают все! А что будет с моей карьерой? Что будут думать люди о моих предыдущих и последующих работах?“»

Чувства Гервейса знакомы каждому из нас. Нам не хочется, чтобы кто-то обвинил нас в некомпетентности. Даже если мы действительно совершили ошибку, нам очень непросто признать это, мы боимся осуждения и насмешек.

Однако наши страхи напрасны. Адам Феттерман, социальный психолог Университета Техаса в Эль-Пасо, выяснил, что признание собственной неправоты обычно не приводит к осуждению: «Когда кто-то говорит о том, что был неправ, мы испытываем к нему скорее дружелюбие и понимание, чем думаем о его некомпетентности».

Да, никто не застрахован от троллинга за свои ошибки. Кто-то может начать строчить издевательские посты в соцсетях, и это будет весьма неприятно. Но мы не будем воспринимать это настолько остро, если избавимся от интеллектуального снобизма.

Нельзя просто взять и стать скромником

Итак, вы достаточно созрели для того, чтобы обрести интеллектуальное смирение. Вам будет непросто это сделать среди данных нам культурных ценностей.

Психологические науки переживают глубокий кризис воспроизводимости: то есть многие эксперименты, считающиеся классическими, не выдерживают проверку современными методами. Так произошло со знаменитым «Зефирным экспериментом» или теорией истощения силы воли. Психологам в такой ситуации приходится непросто. Автор последней теории, канадский психолог Майкл Инцлихт, после опровержения своего исследования с горечью писал: «Что же это получается, все эти годы я строил замки из песка?»

Изучая реакцию психологов на свои неудачи, я понял главное: для интеллектуального смирения нужна поддержка коллег и окружения. И такое окружение придется строить с нуля.

Симин Вазир, психолог и редактор, которая занимается вопросами воспроизводимости исследований, обращает внимание на еще одну важную вещь: конечно, современному ученому постоянно приходится проверять себя и сомневаться в результатах. Но как ученый понимает, что ошибся? Для этого ему необходима постоянная критика его работы и повторный анализ данных.

И это вообще невеселое занятие. Вдумайтесь: даже ученым, людей, чья работа — сомневаться во всём, интеллектуальное смирение дается с трудом. Часто ученые отказываются признавать опровержения своих исследований, даже несмотря на новые доказательства. Один известный психолог даже сердито заявил мне: «Меня не волнует, кто там что говорит, я буду стоять на своем до конца жизни!»

Психологи — тоже люди. Когда они приходят к какому-либо выводу, им уже сложно принять другой. А тут еще на кону и успех собственной научной карьеры, которая зависит от количества опубликованных исследований с положительным результатом.

Можно предложить как минимум два решения, которые помогут психологической науке выбраться из этой ямы интеллектуального высокомерия. Думаю, эти решения пригодятся многим из нас.

Первое — необходима прозрачность. В современном научном мире становится всё более привычной практика пререгистрации, то есть предварительной заявки на проводимое исследование. Если объявить о планах заранее, соблазн отклониться от заданной траектории и выбирать подходящие под гипотезу данные будет гораздо меньше. Как бонус — открытость данных для всех, кто захочет провести повторный анализ.

Второе — необходима культура принятия ошибок. В этом могут помочь сервисы вроде Loss of Confidence Project, предоставляющие комфортное место для рассказа о своих научных неудачах.

Ищем баланс

За интеллектуальное смирение приходится платить. Первое, что нам приходится доставать в качестве оплаты, — это гнев. Как только мы начинаем осознавать безграничность собственного неведения, мы испытываем глубокие негативные чувства: беспомощность, бесполезность усилий, отсутствие смысла. Кажется, что гораздо лучше было бы оставаться в неведении о собственном неведении. Тогда вместо того, чтобы испытывать смятение перед огромным бушующим океаном, мы спокойно стояли бы  на берегу, закрыв один глаз и представляя, что это всего лишь небольшая лужа, и чувствовали бы себя прекрасно.

Как и в любом деле, смирению нужна мера. Не стоит загружать себя мыслями о том, можем ли мы утверждать с должной точностью, что земля круглая.

Профессор философии Майкл Линч предлагает такую технику: «Не надо думать о проблемах, как о кубике Рубика, который можно собрать нужным образом и поставить на стол. Воспринимайте каждый вопрос, над которым вы работаете, как возможность немного приблизиться к ответу, а не получить готовый».

Как всегда, секрет кроется в поиске баланса между нашим твердо устоявшимся мнением и смирением перед лицом истины. Заученные истины нужны нам для ощущения стабильности и надежности, а смирение — для того, чтобы услышать другие точки зрения. Пусть эти два полюса работают в тесной связке.

Вопрос, на который каждому из нас нужно найти ответ, звучит так: «Как сохранить свою открытость к чужом мнению и при этом не потерять собственные сильные убеждения?».

Интеллектуальное смирение вовсе не требует отбросить все идеи, которые вам нравятся. Вам нужно лишь переоценить их, выискивать их недостатки и быть готовыми внести в них коррективы. Снова и снова.

А еще вы можете подумать: об интеллектуальном смирении нам говорят те самые социальные науки, которые переживают кризис воспроизводимости. А вдруг это всё чушь? Что ж, вполне может быть. Но я убежден в том, что интеллектуальное смирение — это добродетель, и пока не нашел достойных аргументов против этого. Если у вас есть, я с радостью вас выслушаю.

Цена ошибки. К чему приводят ошибки программистов?

Выше речь шла об обычных автомобилях, причем не самых последних годов выпуска. Как видите, даже в них возможны программные ошибки, что уж говорить об активно популяризируемых экологически безопасных электрокарах.

Поговорим, конечно же, о Tesla Model S. 7 мая 2016 Джошуа Браун, прославившийся благодаря своим роликам на YouTube, посвященным восхвалениям электромобиля, попал в автокатастрофу. Он находился за рулем Tesla Model S. Будучи на 100% уверенным в интеллекте машины, он доверился автопилоту. Результат доверия трагичный — от полученных травм Джошуа скончался на месте.

Катастрофа получила широкую огласку. Началось расследование. Удалось установить, что, по всей видимости, Браун самостоятельно не следил за дорогой, а автопилот столкнулся с ситуацией, которая не нашла отражение в его программном коде. Перед Tesla Джошуа двигался грузовик с прицепом. Автомобиль планировал выполнить маневр — левый поворот, соответственно, требовалось сбавить скорость. Но Tesla, едущий позади, не начал тормозить, т.к. системы автопилота не распознали находящийся впереди объект.
Произошло это, скорее всего, из-за яркого солнца. Лучи отражались от прицепа и автопилот воспринял грузовик единым целым с небом. В официальном докладе это объяснялось следующим образом: «Системы автоматического торможения Теслы являются технологией избегания столкновения в редких случаях и не спроектированы для надежного выполнения во всех режимах аварии, включая столкновения в результате пересечения путей» (источник). Полный отчет об аварии находится в свободном доступе.
Иными словами, автопилот призван помогать водителю (более совершенный круиз-контроль, грубо говоря), а не заменять его функции. Конечно, репутацию Tesla такое оправдание не сильно спасло. Работы над совершенствованием программного обеспечения продолжились, но Tesla Model S с дорог отозваны не были.
Представители компании привели следующую дорожную статистику: «На каждые 90 млн. миль пройденного пути умирает один человек. В противоположность, люди проезжали 130 млн. миль на автопилоте Тесла перед тем, как была подтверждена первая смерть. Сейчас эта цифра поднялась до 200 млн.» (источник http://www.slate.com/articles/technology/future_tense/2016/09/how_tesla_s_software_update_fixed_a_deadly_flaw_in_autopilot.html)

С одной стороны, такая статистика свидетельствует о том, что электрокар безопаснее, но готовы ли вы доверить свою жизнь, жизнь пассажиров и других участников дорожного движения программе?

И это не риторический вопрос. Судя по новостям биржи( https://ru.insider.pro/topnews/2017-05-03/trejdery-igravshie-protiv-tesla-poteryali-37-mlrd-s-nachala-goda/), вопреки нашумевшей аварии, акции Tesla выросли на 50% с начала 2017 года. Способствуют этому два значимых фактора: популярность движений, выступающих за улучшение экологии в мире, и высокий личный рейтинг главы Tesla — Илона Маска.

Ох, уж эти ошибки!!!!

Катастрофические последствия программных ошибок / Mail.ru Group corporate blog / Habr

Практика не устает доказывать, что в любом ПО самая главная уязвимость — человеческий фактор. И неважно, появился ли баг из-за нехватки квалифицированности специалиста, выжил после долгих часов дебага в поисках ошибки, или считался хитро замаскировавшейся фичей. Среди некоторых разработчиков даже укрепилось мнение, что баги в принципе существуют всегда и везде. Но если ошибки абстрактны и сложно воспроизводимы в реальных условиях, то проблема не является критичной.

Облучение и радиация

Знаменитый случай гибели нескольких человек, получивших смертельную дозу облучения во время сеансов радиационной терапии с применением медицинского ускорителя Therac-25. Ускорители подобного типа используют электроны для создания лучей высокой энергии, высокоточно уничтожающих опухоли. Но некоторые пациенты получили дозы не в несколько сотен рад, как предписывало лечение, а в 20 000 рад; доза в 1000 рад для человека считается несовместимой с жизнью, причем смерть может наступить сразу после облучения.

Всего один программист создал все ПО, используемое в аппаратах Therac — а это 20 тысяч инструкций, написанных на ассемблере. И при этом во всех Therac встречался один тот же пакет библиотек, содержащий ошибки.

Ускоритель Therac-25, ставший третьим в серии успешных аппаратов лучевой терапии, мог работать с рентгеновскими лучами до 25 МэВ. Несколько лет в середине 80-х аппараты Therac-25 работали безупречно, однако со временем начали накапливаться инциденты, повлекшие за собой тяжелые последствия: от ампутации конечностей до гибели пациентов.

Первое время баги просто не замечали, а все неполадки связывали с аппаратными сбоями. Программное обеспечение, безукоризненно проработавшее тысячи часов, воспринималось идеальным и безопасным. Никаких действий для предотвращения последствий возможных ошибок не предпринималось. Кроме того, выдаваемые оператору сообщения о критических с точки зрения безопасности ситуациях выглядели как рутинные. Производитель устройств расследовал каждый инцидент, но при этом не мог воспроизвести сбой. Потребовалось несколько лет исследований сторонних экспертов, привлеченных во время суда после череды смертей, чтобы сделать вывод о наличии большой плеяды именно программных ошибок.

Так при определенной последовательности ввода команд с клавиатуры происходил некорректный вызов процедур, влекущих за собой облучение любого произвольного участка тела пациента. Отсутствие на устройстве аппаратного блокиратора критических и продолжительных доз излучения усугубляло проблему.

Одна и та же переменная в ПО Therac-25, применялась как для анализа введенных чисел, так и для определения положения поворотного круга, отвечающего за направление излучателя. Поэтому при быстром вводе команд аппарат мог принять число дозы излучения за координаты места, куда нужно направить луч — например, прямо в мозг.

Иногда Therac-25 при расчете излучения делил на ноль и соответствующим образом увеличивал величины облучения до максимально возможных. Установка булевской переменной в значение «true» производилась командой «x=x+1» из-за чего с вероятностью 1/256 при нажатии кнопки «Set» программа могла пропустить информацию о некорректном положении излучателя.

Во внутренней документации производителя было обнаружено, что одно и то же сообщение об ошибке выдавалось как в случае ненадлежащей (малой) дозы облучения, так и для большой дозировки — отличить по сообщению об ошибке одно от другого было невозможно.

Если вы разработчик или (что еще лучше) тестировщик, этот случай стоит изучить досконально — есть хорошая статья в wiki, с нее можно начать, а затем ознакомьтесь с большой статьей девятнадцатилетней давности «Мифы о безопасном ПО: уроки знаменитых катастроф». История вобрала в себя большинство классических проблем тестирования.

Как ни печально, но проблемы Therac-25 не остались уникальными. В 2000 году серию аварий вызвал другой софт, точно так же просчитывающий нужную дозу облучения для пациентов, проходящих курс лучевой терапии.

Программное обеспечение Multidata позволяло медицинскому работнику рисовать на экране компьютера порядок размещения металлических блоков, предназначенных для защиты здоровых тканей от радиации. Но софт разрешал использовать только четыре защитных блока, в то время как врачи, в целях повышения безопасности, хотели использовать все пять.

Врачи воспользовались «лайфхаком». Оказалось, что в программе не предусмотрена защита от ввода некорректных данных — можно было нарисовать все пять блоков как один большой блок с отверстием в середине. В медицинском центре онкологии Панамы не понимали, что софт Multidata устанавливал разные показатели конфигурации в зависимости от того, как размещено отверстие: от направления его размещения рассчитывалась правильная доза облучения.
Из-за неверно введенных данных умерли восемь пациентов, в то время как еще 20 получили передозировку, повлекшую серьезные проблемы со здоровьем.

Блэкаут

Маленькая ошибка в программном обеспечении системы мониторинга работы оборудования General Electric Energy привела к тому, что 55 миллионов человек остались без электричества. На Восточном побережье США оказались обесточены жилые дома, школы, больницы, аэропорты.

14 августа 2003 года в 0:15 ночи оператор энергетической системы в Индиане с помощью инструмента мониторинга работы оборудования заметил небольшую проблему. Проблема вызвала раздражающий сигнал об ошибке, который оператор выключил. Оператору удалось за несколько минут решить все трудности, но он забыл перезапустить мониторинг — аварийный сигнал остался в выключенном положении.

Отключение сигнала не стало основной причиной блэкаута. Но когда через несколько часов из-за контакта с деревом вырубились провисшие линии электропередачи в Огайо — об этом никто не узнал. Проблема приняла лавинообразный характер, перегруженные линии передачи и электростанции начали вырубаться в Онтарио, Нью-Йорке, Нью-Джерси, Мичигане и далее.

Ни один из операторов не заметил каскад ошибок, которые медленно убивали энергосистему, из-за единственного выключенного сигнала тревоги — никаких дублирующих систем на этот случай не предполагалось.

Mars Climate Orbiter

В 1998 году NASA потеряло спутник «Mars Climate Orbiter» стоимостью $ 125 млн из-за того, что субподрядчик, работавший над инженерными задачами, не перевел английские единицы измерения (фунты) в метрическую систему. В результате ошибки спутник после 286-дневного путешествия на большой скорости вошел в марсианскую атмосферу, где из-за возникших перегрузок его системы связи вышли из строя. Аппарат оказался на сто километров ниже планируемой орбиты и на 25 км ниже высоты, на которой еще можно было исправить ситуацию. В результате спутник разбился. Такая же участь постигла космический аппарат Mars Polar Lander.

Mariner 1

В 1962 году космический корабль «Mariner 1» был уничтожен с земли после старта из-за отклонения от курса. Авария возникла на ракете из-за программного обеспечения, в котором разработчик пропустил всего один символ. В результате корабль стоимостью 18 миллионов долларов (в деньгах тех лет) получал неверные управляющие сигналы.

При работе над системой управления ракетой программист переводил рукописные математические формулы в компьютерный код. Символ «верхнего тире» (индекса), он воспринял за обычное тире (или знак минус). Функция сглаживания стала отражать нормальные вариации скорости ракеты как критические и недопустимые.

Однако даже допущенная ошибка могла не привести к критическому сбою, но как назло антенна ракеты потеряла связь с наводящей системой на Земле, и управление взял на себя бортовой компьютер.

Запуск баллистических ракет

26 сентября 1983 года спутник эшелона «Око» системы предупреждения о ракетном нападении СССР ошибочно сообщил о запуске пяти баллистических ракет с территории США. Спутник находился на высокой эллиптической орбите, наблюдая за районами базирования ракет под таким углом, чтобы они находились на краю видимого диска Земли. Это позволяло обнаружить факт запуска на фоне темного космического пространства по инфракрасному излучению работающего ракетного двигателя. Кроме того, выбранное расположение спутника снижало вероятность засветок датчиков отраженным от облаков или снега солнечным светом.

После безупречного года работы внезапно выяснилось, что в один день при определенном положении спутника и Солнца свет отражается от облаков, расположенных на больших высотах, оставляя то самое инфракрасное излучение, которое компьютеры восприняли как след от ракет. Заступивший на боевое дежурство подполковник Станислав Петров усомнился в показаниях системы. Подозрение вызвало сообщение о пяти замеченных целях — в случае реального военного конфликта США одновременно произвели бы сотни пусков. Подполковник Петров решил, что это ложное срабатывание системы, и тем самым, вероятно, предотвратил Третью мировую войну.

Подобная ошибка, едва не повлекшая за собой глобальный ядерный конфликт, произошла и по другую сторону океана. 9 ноября 1979 года из-за сбоя компьютера воздушно-космической обороны Северной Америки была получена информация о начале ракетной атаки против США — в количестве 2200 запусков. В то же время спутники раннего предупреждения и радары показали, что никакой информации о советской атаке не поступало — только благодаря перепроверке данных, сделанной за 10 минут, не был отдан приказ о взаимном гарантированном уничтожении.

Причиной всему оказалась самая опасная уязвимость — человеческий фактор. Оператор компьютера, находящегося на боевом дежурстве, загрузил в него пленку с учебной программой, имитировавшей ситуацию массированной ракетной атаки.

За несколько первых лет работы Национального центра управления Объединенного командования аэрокосмической обороны США и Канады было зафиксировано 3703 ложных сигнала тревоги, большая часть из которых появилась из-за атмосферных явлений. Однако случались и компьютерные ошибки. Так один из «боевых» компьютеров 3 июня 1980 года показал постоянно меняющиеся цифры количества ракет, запущенных Советским Союзом. Проблема возникла из-за аппаратного сбоя в микросхеме.

Обновление софта и деление на 0

В 1997 американский ракетный крейсер «Йорктаун» (CG-48), на котором были установлены 27 компьютеров (Pentium-Pro на 200 МГц), решил поделить на ноль и полностью вышел из строя.
Компьютеры работали на Windows NT — и работали они ровно так, как вы и ожидаете, узнав название оси. В то время ВМФ США старался максимально широко использовать коммерческое ПО с целью снижения стоимости военной техники. Компьютеры же позволяли автоматизировать управление кораблем без участия человека.

На компьютеры «Йорктауна» поставили новую программу, управляющую двигателями. Один из операторов, занимавшийся калибровкой клапанов топливной системы, записал в одну из ячеек расчетной таблицы нулевое значение. 21 сентября 1997 года программа запустила операцию деления на этот самый ноль, началась цепная реакция, и ошибка быстро перекинулась на другие компьютеры локальной сети. В результате отказала вся компьютерная система «Йорктауна». Потребовалось почти три часа, чтобы подключить аварийную систему управления.

Схожая проблема с нулем возникла при испытании истребителя в Израиле. Безупречно работавший самолет на автопилоте пролетел над равнинной частью, над горной частью, над долиной реки Иордан и приблизился к Мертвому морю. В этот момент произошел сбой, автопилот выключился, и пилоты посадили истребитель на ручном управлении.

После долгих разбирательств удалось выяснить, что программы автопилота при вычислении параметров управления производили деление на значение текущей высоты истребителя над уровнем океана. Соответственно, у Мертвого моря, лежащего ниже уровня океана, высота становилась нулевой, провоцируя ошибку.

В мире найдется немало историй, когда обновление софта, совершаемое с самыми благими целями, могло повести за собой множество проблем. В 2008 году атомная электростанция в штате Джорджия (США) мощностью 1,759 МВт в экстренном режиме приостановила работу на 48 часов.

Инженер компании, занимающейся технологическим обслуживанием станции, установил обновление на главный компьютер сети АЭС. Компьютер использовался для слежения за химическими данными и диагностики одной из основных систем электростанции. После установки обновлений компьютер штатно перезагрузился, стерев из памяти данные управляющих систем. Система безопасности станции восприняла потерю части данных как выброс радиоактивных веществ в системы охлаждения реактора. В результате автоматика подала сигнал тревоги и остановила все процессы на станции.

Инцидент с F-22

Двенадцать F-22 Raptor (истребитель пятого поколения, состоящий на вооружении США), стоимостью $ 140 млн за штуку, отправились в первый международный вылет в Окинаву. Все шло замечательно, пока эскадрилья не пересекла линию перемены даты, на западной стороне которой дата сдвинута на один день вперед относительно восточной. После пересечения условной линии все 12 истребителей одновременно выдали сообщение об ошибке, эквивалентной синему экрану смерти.

Самолеты потеряли доступы к данным о количестве топлива, датчикам скорости и высоты, частично нарушилась связь. В течение нескольких часов самые современные истребители Америки летели через океан совершенно беспомощными. В конце концов их удалось посадить только благодаря мастерству пилотов.

Так в чем же была ошибка? Проектировщики из Lockheed Martin даже не рассматривали вопрос о возможности пересечения линии перемены дат — им просто не пришло в голову, что где-то понадобится либо прибавлять, либо вычитать одни сутки.

Другие истории

В этой бескрайней теме есть еще несколько интересных историй. О них сложилось либо неправильное мнение, либо уже были подробные статьи на ГТ и Хабре.

Взрыв на советской газотранспортной системе в 1982 году из-за программных ошибок, заложенных ЦРУ. Эксперты категорически отрицают не только взрыв на газопроводе «Уренгой-Сургут-Челябинск» в 1982 году, но и вообще возможность возникновения такого взрыва.

Алгоритмическая ошибка привела к аварии самолета А-330 — в результате инцидента 119 пассажиров и членов экипажа получили ранения, из них 12 тяжелые.

Ракета-носитель Ariane 5 превратилась в «конфетти» 4 июня 1996 года — ошибка произошла в компоненте ПО, предназначенном для выполнения «регулировки» инерциальной платформы. Потеряно 500 млн долларов (стоимость ракеты с грузом).

Toyota: из-за корявой электроники и софта 89 человек погибли с 2000 по 2010 годы.

Источники:

habrahabr.ru/company/mailru/blog/227743
www.wikiwand.com/en/Therac-25
www.baselinemag.com/c/a/Projects-Processes/We-Did-Nothing-Wrong en.wikipedia.org/wiki/Northeast_blackout_of_2003
lps.co.nz/historical-project-failures-mars-climate-orbiter www.jpl.nasa.gov/missions/mariner-1
inosmi.ru/inrussia/20071229/238739.html
https://www.revolvy.com/main/index.php?s=USS%20Yorktown%20(CG-48)
www.defenseindustrydaily.com/f22-squadron-shot-down-by-the-international-date-line-03087

10 причин, по которым мудрые люди не боятся совершать ошибки

Ребята, мы вкладываем душу в AdMe.ru. Cпасибо за то,
что открываете эту
красоту. Спасибо за вдохновение и мурашки.
Присоединяйтесь к нам в Facebook
и ВКонтакте

Говорят, ошибки полезны. Однако, совершив что-то неправильное, мы в первую очередь бросаемся искать виноватых, жалеть себя или исправлять последствия. И времени на то, чтобы сесть и подумать, что же полезного и нужного было в допущенном промахе, нет. В результате мы начинаем осторожничать и выбирать, возможно, не такие интересные, но гарантированно безошибочные решения.

Вместе с тем существует немало веских причин, по которым нам не стоит так бояться совершать ошибки, ведь польза от них действительно есть.

Мы в AdMe.ru разобрались в том, что же получает человек в обмен на неверно принятое решение.

1. Накапливает полезный опыт

Полезность допущенных ошибок и их влияние на личностный рост напрямую зависят от отношения человека к собственным промахам. Согласно научному исследованию, восприятие ошибок как способа получить новый опыт приводит к прокачке интеллекта. Так, простой парень Сэм Руэн (Sam Rouen) из Австралии смог таким образом прокачать не только мозг, но и тело.

Несколько лет назад он был классическим неудачником, к тому же страдал от ожирения, но однажды парень решил принять участие в передаче, герои которой сбрасывают вес. На пути к своей мечте Сэм совершал ошибки, например частенько ел любимый фастфуд, и это отдаляло его от заветной цели. Но нарушение правил не помешало парню стать победителем шоу, и теперь о нем говорят как о красивом, спортивном и интересном молодом человеке.

2. Улучшает мозговую деятельность

Когда мы принимаем свои неудачи, наш мозг начинает работать активнее, и мы лучше усваиваем информацию. Это доказал американский психолог Ханс Шредер (Hans Schroder) в ходе своего эксперимента. Для этого он собрал 123 ребенка-первоклассника и предложил детям сыграть в компьютерную игру. Во время игры ребят трижды поджидала намеренная провокация, которая могла привести к одной и той же ошибке. Аппаратура отметила, что при повторной встрече с неожиданным поворотом событий мозг некоторых участников эксперимента брал гораздо больший перерыв перед принятием решения, а это значит, что он анализировал и учился.

Именно поэтому педагоги все чаще заявляют, что ошибка — это обязательная часть образовательного процесса в школах и университетах. Такой подход куда более продуктивен для развития.

3. Находит новые источники вдохновения

Умный человек не только совершает ошибки, но и позволяет себе это делать, не стесняясь своих естественных эмоций. В таком осознании собственного несовершенства скрыт огромный потенциал: по мнению ученых, сочувственное отношение к своим неудачам подвигает человека на новые свершения куда лучше, чем постоянная самокритика. Поэтому, вместо того чтобы жестко мотивировать себя после провала, дайте волю здоровой жалости. Главное, знайте меру.

4. Увеличивает багаж знаний