В 1898 году Сиддханта Сарасвати сопровождал своего отца в Каши, Праяг и Гаю и собрал много материалов обо всех этих святых местах. Впоследствии он включил их в Анубхашью, свой комментарий к Чайтанья-Чаритамрите.
В 1900 году он опубликовал книгу под названием Банге Самаджиката, в которой описал происхождение, места распространения, философии различных обществ, каст и религий и подробно разъяснил очевидное превосходство доктрины Господа Чайтаньи о непостижимом одновременном единстве и отличии. В марте того же года он сопровождал Бхактивиноду Тхакура в Ориссу, где посетил храм Кшира-Чора-Гопинатхи в Ремуне, а также побывал в Бхуванешваре и Пури. В Пури Шрила Бхактивинода Тхакур решил построить домик для бхаджаны у моря, рядом с самадхи Шрилы Харидаса Тхакура. Сиддханта Сарасвати остался с отцом, служил ему и помогал в строительстве Бхакти-кутира.
В это время неподалеку остановился правитель Кашимбазара и стал регулярно приезжать, чтобы послушать Шрилу Бхактивиноду Тхакура и Сиддханту Сарасвати. Сиддханта Сарасвати регулярно давал лекции по Чайтанья-Чаритамрите в присутствии своего отца, и множество людей собиралось послушать их. Нередко приезжал и знаменитый Радхараманачарана дас Бабаджи.
Позже отношения с Бабаджи испортились из-за двух его ересей:
1. Он ввел повторение Бхаджа Нитай Гаура Радхе Шьяма Джапа Харе Кришна Харе Рама. Это было сделано для того, чтобы прекратить слышимое повторение маха-мантры. Одна проблема состояла в том, что в этой выдуманной мантре были заключены сиддханта-виродха—противоречивый вывод и расабхаса—смешение несовместимых рас. Вторая проблема заключалась в том, что попытка подавить слышимую вибрацию маха-мантры противоречила воле Шри Чайтаньи Махапрабху, ведь необходимость именно громкой вибраций ясно выражена во всей Его деятельности и учении, а также в учении шестерых Госвами. В Пратхама Чайтаньяштаке, текст 5, Рупа Госвами пишет: харе кршанети уччаих— «Чайтанья Махапрабху произносит мантру Харе Кришна громким голосом...» Рупа Госвами, очевидец деяний Шри Чайтаньи Махапрабху, благословленный и уполномоченный Им на распространение Его миссии, лично свидетельствует здесь, что Господь Чайтанья не ограничивал мантру неслышимым бормотанием, а громко возвещал ее всем.
2. У Радхараманачарана даса Бабаджи была еще одна теория— Сакхибхеки. Выражалась она в том, что он одевал одного из своих последователей, Шри Джаягопала Бхаттачарью, как Лалиту Сакхи. Это тоже противоречило учению Махапрабху. Нельзя поклоняться обычной дживе как экспансии Шримати Радхарани. Шрила Бхактивинода Тхакур и Сиддханта Сарасвати посоветовали Бабаджи прекратить эту ошибочную практику, но тот отказался. Тогда Сиддханта Сарасвати начал публично и весьма резко выступать против этих уродливых доктрин. Он объявил во всеуслышанье, что маха-мантра предназначена, как для джапы, так и для киртана, и что киртан, в конечном счете, выше джапы. Из этого произошел в Пури раскол. Немало преданных, подверженных неуместной сентиментальности, приняло сторону Бабаджи, другие примкнули к Сиддханте Сарасвати.
В течение этого времени Сиддханта Сарасвати занимался составлением вайшнавской энциклопедии, которая должна была содержать объяснение вайшнавской терминологии, краткие биографии великих вайшнавов, обзор книг вайшнавских ачарий, описания вайшнавских тиртх, разнообразные учения вайшнавских сект и т. д. Он назвал её Вайшнава-Манджуша-Самахрити и позже опубликовал в четырех томах. Один вайшнавский ученый сказал по поводу этой энциклопедии: «Такая работа не под силу простому смертному, ее мог исполнить только великий человек—Прабхупада Сарасвати Тхакур. Даже три десятка ученых и десяток сотрудников в придачу, получи они к тому же царскую казну в свое распоряжение, не смогли бы издать такой труд». Сиддханта Сарасвати начал составлять эту энциклопедию в Пури и продолжал во время своих проповеднических путешествий по Шри Маяпурдхаме, Шри Джаганнатха Пури-дхаме и Шри Враджа-дхаме. Кроме того он изучал книги Шрилы Мадхавачарьи и Шрилы Рамануджачарьи и опубликовал некоторые из них в Бенгалии. Но и это еще не все. Он составил и напечатал биографии этих и других святых вайшнавов в журнале Шрилы Бхактивиноды Тхакура «Саджана-Тошани».
В 1904, а затем и в 1905 годах Сиддханта Сарасвати путешествовал по Южной Индии, посетив такие места, как Тирупати, Шрирангам, Сингхачал, Радж Махендри, Мадрас, Перамбадур, Конджеварам, Кумбхаконам и Мадурай. В Перамбадуре он получил от Рамануджи триданди Свами полную информацию о ритуалах и правилах ведической триданда вайшнава-санньясы. Куда бы ни приводили его путешествия, он всегда давал лекции, писал, дискутировал с учеными пандитами того времени. Вскоре он приобрел такую репутацию, что одно его имя вселяло страх в сердца оппонентов. Фальшивые культы и секты были обречены.
Однако в Пури Сиддханта Сарасвати подвергался столь сильному притеснению и порицанию за свою проповедь против рифмованных киртанов и теории сакхибхеки столь популярного Радхараманачарана даса Бабаджи, что в конце концов Шрила Бхактивинода Тхакур приказал ему отправиться в Йогапитху—место рождения Шри Чайтаньи Махапрабху—и заняться там бхаджаной.
