Взыскание ошибочно перечисленных денежных средств

Вопрос:

Организация ошибочно оплатила счет, они обнаружили, что счет оплачен ошибочно, обратились к поставщику за возвратом денежных средств. Поставщик отказывается вернуть деньги в полном объеме - либо продукцией, которая не нужна, либо удержат издержки на производство этой продукции. Правомерно ли это? Договоров не подписывали и документов на принятие продукции тоже.