Учился в Бийском катехизаторском, а затем Московском синодальном училище церковного пения и Петербургской придворной певческой капелле.С 1900 года начал преподавать различные музыкальные дисциплины в учебных заведениях Томска.
Являлся членом Томского общества изучения Сибири, которым руководил Г. Н. Потанин, сибирский общественный деятель. Именно под его влиянием Анохин увлекся изучением культуры тюркских народов Южной Сибири. С 1904 года А. В. Анохин совершил множество этнографических и фольклорных экспедиций по Монголии, Южной Сибири и Восточному Казахстану. Анохин внес большой вклад в сохранение музыкального творчества малых народов Горного Алтая. Он собрал огромное количество напевов, сказаний, песен, музыкальных наигрышей, текстов заговоров и пословиц и пр. Авторству Андрея Анохина принадлежит около 100 музыкальных произведений в различных жанрах. Одни из самых известных — поэма «Хан-Эрлик», мистерии «Талай-Хан», песня «Алтын-кел» («Золотое озеро»), ставшая народной.
В 1923 г. Анохин был избран членом-корреспондентом АН СССР за исследования верований южных алтайцев. Он является автором работ по мифологии, музыкальной культуре, шаманизму тюркских народов Алтая: «Богатырский эпос», «Буддийская храмовая музыка», «Материалы по шаманству у алтайцев», «Бурханизм в Западном Алтае», «Душа и ее свойства по представлению телеутов».
Большая часть творческого наследия Андрея Викторовича Анохина хранится в Кунсткамере РАН, а также в краеведческом музее Горно-Алтайска (Национальный музей Республики Алтай имени А. В. Анохина).