Люди здавна почали селитися по обох берегах Псла. Вже у II - VI століттях нової ери тут жили слов'янські племена. У VIII - X століттях в районі колишнього села Тополя (нині вул. Тополянська міста Суми) існувало поселення сіверян, а на Луці до теперішнього часу збереглися залишки великого городища часів Київської Русі, яке деякі історики ототожнюють з давньоруським містом Липецьк.

У відношенні року заснування міста Суми в істориків і краєзнавців єдиної думки немає. Називаються роки 1652 і 1655. Найбільш вірогідним тепер вважається другий варіант.

Припускають, що місто заселявся кількома хвилями переселенців з-за річки Дніпро, але засновником Сум вважається полковник Герасим Кондратьєв, який прийшов сюди, на територію Російської держави, в 1655 році з групою козаків-переселенців з містечка Ставище Білоцерківського полку. 

26 квітня 1655 вони відправили лист царю Олексію Михайловичу з проханням заснувати місто на його нинішньому місці: «Б'ють чолом ... бідні та поруйновані від ляхів і татар р. Ставище черкаси отаман Герасімка Кондратьєв та рядові козаки, всіх 100 чоловік ... прийшли ми через Дніпра ... з женишком і дітками і пришед стали на Пслі річці біля річки Сум ... ». (Так пише протоієрей Олександр Двінятін в книзі «Я кличу живих, я плачу за мертвими»).

Москва дозволила козакам тут влаштуватися, і протягом 1656 - 1658 років під керівництвом російського воєводи К.Ю.Арсеньева будувалася фортеця.

"Сумін місто" побудували у дубовому лісі, з дубових колод спорудили кріпосні стіни, під фортецею викопали підземний хід до води, насипали довкола фортеці вал і викопали глибокий рів. Оборонні споруди доповнювалися природними: ріки Псел, Сума і Сумка з трьох сторін оперізували місто. З півдня підступи до Сум огороджував зроблений в 1658 році перекоп між Пслом і Сумкою. Сумська фортеця була однією і-найбільших і найбільш укріплених фортець Слобожанщини.

Свою назву місто отримало від річок Сума та Сумка, які омивали його з двох сторін. До наших днів дійшла легенда, що на місці, де стоять Суми, були знайдені мисливські сумки. Це знайшло відображення в гербі міста, затвердженому в 1781 році: три чорні сумки з перев'язами і золотими гудзиками на щиті прямокутної форми.

1. У середині XVII століття на північному сході сучасної України в місцевості надзвичайно мальовничій, зі слідами численних древніх слов'янських поселень, але тоді зовсім безлюдний, виникло місто-фортеця. Керував її спорудженням воєвода К.Арсеньев, який писав цареві Олексію Михайловичу: "... а місто, Государ, Сумін став на річці Пслі і на гирлі річки Суми і між малі річки Сумки, а мала, Государ, річка Сумка впала в річку Суму , а Торба-річка в річку Псел. " Будували фортецю разом з російськими служивими людьми українські переселенці з-зa Дніпра, що стали жителями міських посадів і навколишніх слобід. Саме серед них і народилася легенда про мисливських сумках, які дали ім'я місту. Три торби, повних золота, були знайдені в дубовому лісі, немов Знак Благословення для заснування міста. Так чи інакше, але на прапорі Сумського слобідського козацького полку, що веде свій початок з 1651 р. була емблема у вигляді трьох сум, що стала з 1781 р. офіційним гербом міста.

2. Герольдмейстер М.Щербатов, який власне в 1775 р. і розробив герб міста як знак для прапора Сумського гусарського полку, керувався легендою про виявлені в районі майбутньої Сумської фортеці козаками Г.Кондратьева трьох сумок із золотом, загублених чи то кур'єрами Хмельницького, чи то царськими посланцями. Але найімовірніше, що своєю назвою місто зобов'язане річкам Сума (тепер Сумка) і Сумка (тепер Стрілка), які задовго до заснування міста мали таку назву.

3. Існує думка, що герб Сум був затверджений імператрицею Катериною II одночасно з прапором міста, що з тисячі міст такої честі були удостоєні тільки сотня з них. Зображення прапора слід шукати в архівах Петербурга. Гімну у міста спочатку не було, зате був полковий марш Сумського гусарського полку. 

 І ще існує легенда, що назва міста все-таки відбулася від слова« сумувати ». Тільки козаки за часів Катерини II сумували не про колишніх місцях проживання, а про красунь, яких їм так не вистачало. Вони написали листа цариці з проханням допомогти їм не вмерти від туги. І тоді Катерина II направила до них найкрасивіших придворних дам. У них з'явилися діти незвичайної краси, особливо дівчатка. З тих пір сумчанки вважаються найкрасивішими слов'янськими жінками.