В больничном флигеле находится палата № 6 для душевнобольных. Среди её обитателей — бывший судебный пристав Иван Дмитрич Громов, страдающий манией преследования. Его отец был осуждён и умер в тюрьме, семья осталась без средств, и впечатлительный Иван постепенно начал убеждать себя, что его тоже могут арестовать. После того как он увидел, как конвой ведёт арестантов в кандалах, его тревога усилилась. Когда к хозяйке, у которой он жил, пришли печники, он решил, что это полицейские, и в ужасе выбежал на улицу, где его и поймали, после чего и определили в палату.
Рядом с палатой живёт и главный врач больницы — Андрей Ефимыч Рагин. Он умный и честный человек, но слабовольный: видя плачевное состояние больницы (бедность, антисанитарию), он не пытается ничего изменить, а лишь постепенно теряет интерес к работе. Дома он много читает (особенно философию и историю), но чувствует себя одиноким.
Однажды Рагин заходит в палату № 6 и вступает в беседу с Громовым. Тот обвиняет доктора в том, что тот держит здоровых людей в закрытом месте, пока «сумасшедшие бродят на свободе». Разговор настолько увлекает Рагина, что он начинает наведываться к Громову регулярно. В долгих спорах доктор проповедует позицию греческих стоиков — презрение к страданиям, а Громов называет это ленью и мечтает покончить со страданиями.
Слухи о частых визитах доктора в палату № 6 разносятся по больнице. Молодой врач Евгений Хоботов, который сам метит на место главврача, видит в этом подозрительное поведение. Рагина вызывают в управу, и разговор превращается в освидетельствование его умственных способностей. Позже ему предлагают взять отпуск, а затем и подать в отставку. Он равнодушно соглашается и отправляется в путешествие с другом, Михаилом Аверьянычем.
По возвращении домой Рагина продолжают преследовать слухи о его сумасшествии. Однажды он не выдерживает и, вспылив, выгоняет из своей квартиры Хоботова и почтмейстера. Позже Хоботов хитростью заманивает Рагина в палату № 6 якобы на консилиум, выходит за стетоскопом и не возвращается. Сторож Никита, который привык поддерживать «порядок» с помощью побоев, не пускает доктора наружу. Рагин и Громов пытаются протестовать, и Никита бьёт Андрея Ефимыча в лицо. Осознав, что из палаты ему не вырваться, Рагин впадает в безразличие. На следующий день у него случается апоплексический удар (инсульт), от которого он умирает. На похоронах присутствуют только Михаил Аверьяныч и Дарьюшка (кухарка Рагина).
Через эту историю Чехов показывает, к каким трагическим последствиям приводит равнодушие, безволие и неспособность общества противостоять несправедливости. Палата № 6 становится метафорой не только места заключения, но и символом того, как общество изолирует тех, кто мыслит не так, как принято.