На сегодняшний день не известна достоверная дата появления музея. По одним данным в 1913 году его основал ботаник и фитогеограф Крашенинников И. М. Другие данные говорят, что музей основан в 1923 году, и первым директором стал Горохов Иван Гаврилович.
Так или иначе музей появился на основе коллекции, скрупулёзно собранной господином Крашенинниковым, и сперва размещался в Челябинском реальном училище. Впоследствии музей переехал в дом В. М. Крашенинникова. (брат Ипполита Михаиловича). Первая выставка состоялась в 1918 году на основе коллекции Ипполита Михаловича Крашенинникова. Увы часть артефактов была утеряна в 1919 году.
За десять лет с официальной даты открытия удалось собрать огромное количество географических карт, познавательных книг и, разумеется, экспонатов: минералов, окаменелостей и ботанических артефактов.
Пока музей не переехал в Свято-Троицкую церковь, где пребывал на протяжении 60 лет, ему пришлось сменить немало приютов. Поиск информации, а также выставки были остановлены Великой Отечественной войной, однако работа не прекращалась. По окончании войны и реконструкции здания церкви Челябинский музей краеведения снова открылся для посетителей.
Меняется ли политика государства, сменят ли друг друга директора, фонды музея постоянно пополняются новыми экземплярами. В 2003 году пришло время радикальных, но приятных перемен: для государственного музея оглашается строительство отдельного здания. В июне 2006 наконец появилось новое пристанище для Челябинского областного краеведческого музея, на берегу реки Миасс. Место для возведения нового здания выбрали не случайно. Как раз здесь в XVIII веке находилась Челябинская крепость, давшая начало городу. Примечательно, что здание музея внешне повторяет облик той самой крепости.