Известно, что если масса ядра звезды, претерпевшего изменения химического состава из-за термоядерных реакций и состоящего в основном из элементов группы железа, превышает 1,4 солнечной массы M( , но не превосходит трех солнечных масс, то в конце ядерной эволюции звезды происходит коллапс (быстрое сжатие) ядра, в результате которого внешняя оболочка звезды, не затронутая термоядерными превращениями, сбрасывается, что приводит к явлению вспышки сверхновой звезды. Это приводит к формированию нейтронной звезды, в которой силам гравитационного притяжения противодействует градиент давления вырожденного нейтронного вещества. Огромные силы давления вырожденного нейтронного вещества обусловлены тем, что нейтроны обладают полуцелым спином и подчиняются принципу Паули, согласно которому в данном энергетическом состоянии может находиться только один нейтрон.
При сжатии ядра звезды на поздней стадии эволюции температура поднимается до гигантских значений — порядка миллиарда кельвинов, поэтому ядра атомов разваливаются на протоны и нейтроны. Протоны поглощают электроны, превращаются в нейтроны и испускают нейтрино. Нейтроны же, согласно квантовомеханическому принципу Паули, запрещающему им находиться в одинаковых состояниях, начинают при сильном сжатии эффективно отталкиваться друг от друга. В случае массы коллапсирующего ядра звезды меньше 3M( скорости нейтронов значительно меньше скорости света и упругость вещества, обусловленная в основном эффективным отталкиванием нейтронов, может уравновесить силы гравитации и привести к образованию устойчивых нейтронных звезд. В случае массивных ядер звезд (m > 3M() скорости нейтронов велики, силы отталкивания между ними не могут уравновесить силы гравитации. В этом случае образующаяся нейтронная звезда остывая коллапсирует, согласно существующим представлениям, в черную дыру. Поскольку при образовании нейтронной звезды радиус звезды уменьшается от 106 до 10 км, из условия сохранения магнитного потока (где H0 ї 100 Гс, R0 ї 106 км — напряженность магнитного поля и радиус ядра звезды до сжатия, Hn , Rn — те же характеристики нейтронной звезды) следует, что магнитное поле нейтронной звезды радиусом 10 км может достигать очень большой величины — порядка 1012 Гс. Радиус нейтронной звезды порядка 10 км, плотность вещества достигает миллиарда тонн в кубическом сантиметре.
Хорошо известные радиопульсары и рентгеновские пульсары как раз и представляют собой нейтронные звезды, причем число известных радиопульсаров достигает 700. Радиопульсары наблюдаются как источники строго периодических импульсов радоизлучения, что связано с переработкой энергии быстрого вращения звезды в направленное радиоизлучение через посредство сильного магнитного поля. Рентгеновские пульсары светят за счет аккреции вещества в тесных двойных звездных системах: сильное магнитное поле нейтронной звезды направляет плазму на магнитные полюсы, где она сталкивается с поверхностью нейтронной звезды и разогревается в ударной волне до температур в десятки и сотни миллионов градусов. Это приводит к излучению рентгеновских квантов. Поскольку ось магнитного диполя не совпадает с осью вращения нейтронной звезды, рентгеновские пятна (их называют аккреционными колонками) при вращении нейтронной звезды то видны для земного наблюдателя, то экранируются телом нейтронной звезды, что приводит к эффекту маяка и феномену рентгеновского пульсара — строго периодической переменности рентгеновского излучения на временах от долей секунды до тысяч секунд. Периодические пульсации радио- или рентгеновского излучения говорят о том, что у нейтронной звезды есть сильное магнитное поле (~ 1012 Гс), твердая поверхность и быстрое вращение (периоды радиопульсаров достигают миллисекунд времени). У черной дыры строго периодических пульсаций излучения ожидать не приходится, поскольку, согласно предсказанию общей теории относительности (ОТО) Эйнштейна, описывающей сильные гравитационные поля, черная дыра не имеет ни твердой поверхности, ни сильного магнитного поля.
Для звезд, массы железных ядер которых в конце эволюции превышают три солнечных, ОТО предсказывает неограниченное сжатие ядра (релятивистский коллапс) с образованием черной дыры. Это объясняется тем, что силы гравитации, стремящиеся сжать звезду, определяются плотностью энергии, а при громадных плотностях вещества, достигаемых при сжатии ядра звезды (порядка миллиарда тонн в кубическом сантиметре), главный вклад в плотность энергии вносит уже не энергия покоя частиц, а энергия их движения и взаимодействия. Получается, что давление вещества при больших плотностях как бы само «весит»: чем больше давление, тем больше плотность энергии и, следовательно, силы гравитации, стремящиеся сжать вещество. Кроме того, при сильных гравитационных полях, согласно ОТО, становятся принципиально важными эффекты искривления пространства-времени, что также способствует неограниченному сжатию ядра звезды.
Черные дыры с очень большими массами (до миллиардов солнечных масс), по-видимому, существуют в ядрах галактик, и в последние годы в наблюдательном исследовании сверхмассивных черных дыр наметился существенный прогресс в связи с использованием космического телескопа им. Хаббла и применения методов радиоинтерферометрии со сверхдлинными базами. Кроме того, теория предсказывает возможность существования первичных черных дыр, образовавшихся в момент образования Вселенной. Мы ограничимся рассмотрением лишь черных дыр звездной массы, образовавшихся на конечных этапах эволюции массивных (с массами в десятки солнечных) звезд.