Еще будучи студентом Петербургского университета вступил в революционный социал-демократический студенческий кружок, который впоследствии стал Петербургской группой «Освобождения труда».
В 1892 г. был арестован за распространение нелегальной литературы. Полтора года он находился в Доме предварительного заключения и в «Крестах». Его исключили из университета и летом 1893 г. выслали под гласный надзор полиции в Вильно (ныне Вильнюс). Здесь он принимал участие в деятельности местной социал-демократической организации, в движении за создание Всеобщего еврейского рабочего союза Литвы, Польши и России (с 1897 г. ― Бунд). Вместе с В. И. Лениным был одним из основателей петербургского Союза борьбы за освобождение рабочего класса 1895, за что был в 1896 арестован и сослан в Туруханск. В 1899 г. Мартов поддержал написанный 17-тью ссыльными «Протест российских социал-демократов» против «Кредо» «Экономистов» Е. Д. Кусковой. Во время пребывания в камере предварительного заключения им был написан первый собственный исторический очерк ― «Современная Россия». В ссылке он пишет еще две книги: «Рабочее дело в России» и «Красное знамя в России».
В январе 1900 г., по окончании сибирской ссылки, Мартов направился в Полтаву, в апреле того же года участвовал в Псковском совещании, на котором обсуждался вопрос о создании общерусской политической газеты «Искра». Затем заключил «тройственный союз» в поддержку газеты с А. Потресовым и В. Лениным. Он активно работал по подготовке к изданию газеты «Искра» и журнала «Заря», был сотрудником редакции, также привлекал к участию своих соратников и родственников. Будущая жена Сергея Цедербаума ― Конкордия Захарова ― стала агентом газеты, через месяц после этого она уехала из Полтавы в Петербург, а оттуда — в Мюнхен. В Германии базировалась редакция газеты с 1901 г. В августе 1901 г. туда приехал Мартов. За границей помимо работы по изданию «Искры», в редакции которой он был по существу самым активным сотрудником, он читал лекции в Высшей русской школе общественных наук в Париже, поддерживал тесный контакт с Лениным.
