Заключается ли в кавычки слово Экспериментаниум?

Если вы имеете в виду музей, то в сочетании со словом музей кавычки нужны: в музее «Экспериментаниум». При употреблении без родового слова кавычки допустимы, т. к. это слово можно отнести к непривычным, малоупотребительным.