До пророчого служіння Господь покликав Єремію, коли йому було 15 років. Юнак спершу відмовлявся був від своєї місії, кажучи, що він надто молодий, що не вміє красномовно говорити, але Господь пообіцяв завжди бути з ним.
Довго терпів Господь гріхи юдейського народу та чекав каяття, але народ не покаявся. Через пророка Єремію Бог ясно передвістив, що за своє нечестя народ юдейський буде підкорено та забрано в полон вавилонянами, і що юдеї перебуватимуть у полоні сімдесят років. Спочатку вавилонський цар Навуходоносор підкорив собі юдейського царя, але Єрусалим зберіг і царства не зруйнував.
Пророк Єремія переконував юдеїв підкоритися Вавилону. Він вказував, що вавилоняни послані на юдеїв Богом як покарання за гріхи царів і народу, за відступництво від віри. Він говорив їм, що єдиний спосіб позбутися лиха — покаяння, виправлення та молитва до Бога. Та ні цар, ні народ не послухались пророка та підняли повстання. Тоді вавилонський цар Навуходоносор узяв Єрусалим, розграбував його, спалив і зруйнував дощенту Соломонів храм. Тоді ж було знищено і Ковчег Завіту.
Увесь юдейський народ було забрано в полон (в 586—589 рр. до Р. Х.), лише найубогіших юдеїв залишено на своїй землі для обробітку виноградників і ланів. Пророк Єремія залишився в Єрусалимі. Він плакав через нечестя свого народу на руїнах міста та продовжував навчати добра всіх, хто залишився.