apt list --installed

Сначала определим какие пакеты относятся к установленной нами монге:

apt list --installed | grep "mongo"

В моём случае, кроме ответ был такой:

mongodb/xenial,now 1:2.6.10-0ubuntu1 amd64 [installed]
mongodb-clients/xenial,now 1:2.6.10-0ubuntu1 amd64 [installed,automatic]
mongodb-server/xenial,now 1:2.6.10-0ubuntu1 amd64 [installed,automatic]
php-mongodb/xenial,now 1.2.9-1~ubuntu16.04.1+deb.sury.org+1 amd64 [installed]

-- т.к. php-расширение я удалять не собирался, а потому удалям первые три пакета:

Advanced Packaging Tool – набор утилит для управления программными пакетами в операционных системах основанных на Debian. APT предоставляет дружественную надстройку над DPKG и позволяет: