Через год после прибытия в Тихореченск у Фурнье родился сын, которого назвали Жеромом. Имелась одна странность в поведении француза. Он вовсе не посещал церковь. Конечно, в православном храме ему и делать нечего, но в Тихореченске имелась католическая часовня. В свое время здесь было много ссыльных поляков, с той поры она и существовала. Был при ней и капеллан, опять же из поляков, некий патер Тадеуш. Так вот этот самый Тадеуш принялся строчить на нашего Фурнье доносы: мол, подозрительная личность, храм не посещает, лоб не крестит и вообще адепт темных культов. Однако его не тронули.

Лет через пять он купил дом возле кладбища, но было совершенно непонятно для чего – жить в нем он не собирался. Ходили слухи, что француз будто бы ищет клад. Вспомнили о таинственной личности, некоем мальтийском рыцаре, сосланном в Тихореченск в эпоху Павла, который построил дом у кладбища. Так вот, утверждали, что в его подвалах и спрятан клад, а Фурнье известно о его местонахождении. Однако француз расширил торговлю, потом построил кондитерскую фабрику и зажил на широкую ногу. Надо думать, если бы он действительно нашел что-то стоящее, то вряд ли остался бы в такой дыре, как Тихореченск. Как бы там ни было, француз процветал. В 1906 году в местной газетке под названием «Свисток» были опубликованы две статьи с промежутком примерно в полгода. Одна называлась "Бархатное неглиже", вторая – "Святой выкрест". В обеих речь шла о Фурнье. В первой говорилось о том, что несколько заведений под красными фонарями, проще говоря, публичных домов, принадлежало французу. По словам автора, который укрылся за псевдонимом Зорковский, Фурнье, не сам, конечно, а через доверенных лиц, под видом набора работниц для своей кондитерской фабрики вербовал молодых девушек, преимущественно крестьянок, для занятия проституцией.