За місцевою легендою, яку записав історик ХІХ століття, священик Микола Трипольський, місто започатковано близько 884 року, і свою назву одержало від імені руського дружинника київських князів Аскольда та Діра — Житоми́ра, що нібито відмовився служити Олегу, сховався в лісах і оселився на високій скелі при злитті рік Кам'янки й Тетерева. Згодом над глибоким (близько 30 метрів) урвищем над Кам'янкою збудували дерев'яний замок (зараз на Замковій горі, у цьому місці розташований філіал обласного архіву). 

Відомий чеський вчений-славіст Павло Йосиф Шафарик, доводив, що древнє городище — майбутній Житомир — виникло як центр племені житичів, що входило в племінний союз древлян. Назва міста — мир житичів, як і самого племені, основним заняттям якого було хліборобство, виникла від важливої в цьому краї культури — жита, що культивується тут із незапам'ятних часів. Є свідчення про те, що в давнину навіть у центрі міста сіяли жито, ячмінь. Про місто говорили: «мир і жито», «мир житичів». Можливо також, що Житомир — це скорочена форма від слова «животомир», тобто символ мирного спокійного життя. 

У Житомирі, як і на всій древлянській землі в 945 році спалахнуло повстання, яке описане в Іпатіївському літописі. Незабаром, після цього древлянські землі остаточно ввійшли до складу володінь Київської Русі. Перша літописна згадка про Житомир відноситься до 1240 року, у зв'язку з походом на захід війська Батия, після розгрому Києва. Житомир, під час монголо-татарського нашестя, було цілком розорено й зруйновано. Житомир страждав від татар ще кілька разів, до XVII століття.