test_merge_order: test asap PDEPEND (bug #180045)

treewalk: fix PORTAGE_BUILDIR_LOCKED state

This fixes breakage from commit
f0f1bbe8fa9d3f698cbe529d2a11eec1ce437119.

doebuild_environment: move EAPI code later

All EAPI dependent code comes last, so that essential
variables like PORTAGE_BUILDDIR are still initialized even in
cases when UnsupportedAPIException needs to be raised, which
can be useful when uninstalling a package that has corrupt
EAPI metadata.

PackageUninstall: use _unmerge_display()

This is preparation for asynchronous support.

unmerge: split out _unmerge_display() function

This will be useful for adding asynchronous support to the
PackageUninstall class, since it will be able to call
_unmerge_display() for the display portion, and then do the
actual unmerge asynchronously.

repoman: pass type_name to Package constructor

test_merge_order: add more asap libc deps

_serialize_tasks: prefer unsatisfied asap child

Optimally, satisfied deps are always merged after the asap nodes that
depend on them.

test_depth: use merge_order_assertions

_add_pkg_dep_string: handle satisfied virt_dep

This fixes a problem with the asap LIBC_PACKAGE_ATOM test case for
bug #303567.

test_merge_order: test asap LIBC_PACKAGE_ATOM

_validate_blockers: reference bug 128809

test_merge_order: test asap PORTAGE_PACKAGE_ATOM

test_merge_order: test case for bug 250286

test_merge_order: test hard block resolution

test_merge_order: test many-to-one blocks

Package: add new _gen_hash_key method

test_depth: use ambiguous_merge_order

ambiguous_merge_order: set match = False more

Fix spelling of "ambiguous".

DepPriority: remove "rebuild" attribute

Since the addition of DepPriorityNormalRange and
DepPrioritySatisfiedRange in commit
bd369956b2a2fbc019a655a372628998499156c0, which solves most cases of
bug 199856, the Depriority.rebuild attribute doesn't appear to make any
difference. The edges that this attribute differentiates are already
naturally differentiated by the fact that the child node of a satisfied
buildtime dependency that's not being rebuilt will naturally be
identified as a leaf node earlier and removed from the graph, thereby
eliminating the edge before there's an opportunity to compare it with
a higher priority rebuild edge. The addition of the "optional"
attribute (in commit 15476805a156acd11fdaaa19212691e8ee09b309) also
plays a role here, since it converts some satisfied buildtime edges to
optional edges, thereby reducing their priority.

test_merge_order: fix bugs in previous commit

test_merge_order: test solve blocker no-overlap

treewalk: force AUTOCLEAN=yes if libs preserved

_prune_plib_registry: correct _match_contents use

merge_order_assertions: fix string format error

test_merge_order: test satisfied circular DEPEND

test_merge_order: test unsolvable buildtime cycle

test_merge_order: test circular RDEPEND + DEPEND

test_merge_order: make cycles indirect

Task.__eq__: allow _hash_key as input

This is used by depgraph._pkg() for lookups.

ambigous_merge_order: handle more failure modes

test_merge_order: test hard buildtime blockers

test_merge_order: test hard blocker resolution

test_merge_order: test blocker resolution

test_merge_order: remove uneeded ambigous flag

test_merge_order: fix ambigous_merge_order bug

test_merge_order: test circular RDEPEND + PDEPEND

ResolverPlayground: support ambigous_merge_order

Fix grammar in previous commit.

depclean: adjust failure message wrt --with-bdeps

We need to be more explicit about using --with-bdeps=y, since this
subtlety often leads to confusion.

Task: optimize == and != _hash_key comparison

Add FEATURES=distcc-pump support.

This will fix bug #288597.

Task: precalculate _hash_value

Task: remove unnecessary _get_hash_key() method

Package: precalculate _hash_key

This eliminates an expensive getattr call in _get_hash_key(), which
greatly improves depgraph performance on a weak ARM cpu.

Fix typos in comments.

_find_libs_to_preserve: always return set

preserve-libs: check for broken linkmap more

_pkg_visibility_check: if in graph then visible

_LockProcess.unlock: assert successful returncode

etc-update: clear term when appropriate

This solves an issue like bug #142508, but involving etc-update instead
of dispatch-conf. This is also relevant to bug #70668, which is the
same issue, though the reporter suggested to use colors to delimit the
output instead of using clear.

Fix a typo in a comment.

digraph: implement __bool__

depgraph._resolve: use temp set for autounmask

display_autounmask: optimize check_if_latest

test_asynchronous_lock: simulate SIGINT from tty

AsynchronousTask: tweak poll() logic

AsynchronousLock: implement _poll() and test

test_asynchronous_lock: test returncode more

test_asynchronous_lock: test wait and cancel

test_asynchronous_lock: test waiting

BinpkgFetcher: handle AsynchronousLock failure

EbuildBuildDir: handle AsynchronousLock failure

_LockProcess: handle process failure more

_LockProcess: handle process failure if cancelled

preserve-libs: lock vardb for removeFromContents

make.conf.txt: remove because unused/unmaintained

Fix some typos.

Use vardbapi.lock() where applicable.

movefile: handle EEXIST when os.symlink fails

_LibGraphNode: re-use the _key attribute

This allows us to avoid repeating any previous stat calls, which helps
to avoid potential race conditions due to inconsistent stat results
when the file system is being modified concurrently.

Fix a typo in a comment.

find_unused_preserved_libs: fix unmerge handling

Since commit c64d4abee145d083c70273be8fd23bd56dffe7ec (bug #286714),
preserved libs have not been properly garbage collected when packages
are unmerged without replacement, due to a difference in LinkageMap
state. It should behave correcly now.

prune_plib_registry: display preserved libs

Since commit c64d4abee145d083c70273be8fd23bd56dffe7ec, sometimes we
preserve libs for unmerged packages here (bug #286714), so we should
display them like we do in _add_preserve_libs_to_contents().

treewalk: fix plib_collisions with same cpv

--autounmask: Use >= atoms if possible

If the package is the latest avaiable it now uses >=cat/pkg-ver instead
of =cat/pkg-ver. If the package is not the latest, but the latest in
its slot, >=cat/pkg-ver:slot is used. In all other case =cat/pkg-ver
is used. Rational is that it's more likely that newer versions, added
in the future, will work with the same configuration changes as the
currently latest version than not.

preserve-libs: preserve during uninstall

This will fix bug #286714. The emerge --depclean-lib-check option will
now be ignored when FEATURES=preserve-libs is enabled, since any
libraries that have consumers will simply be preserved.

cache.sqlite: handle readonly more

porttree: use pure volatile cache if necessary

cache.volatile: discard "perms" param

cache.sqlite: handle readonly

expand_new_virt: return early for non-virtual cat

expand_new_virt: skip match for non-virtual cat

dblink: fix broken counter references

treewalk: fix inverted counter init logic

portdbapi: tweak cache permission handling

This is a reponse to the following issue:

  http://code.google.com/p/chromium-os/issues/detail?id=15234

EbuildPhase: extract binpkg env for pkg_pretend

This will fix bug #366939.

unmerge: use frozenset for syslist

dep_check_composite_db: return early from cp_list

Since this implementation is only intended to check for existence of
new-style virtuals, it's a waste of time to return more than one cpv.

depgraph: don't clear vardbapi cache in _load_vdb

Most of the memory is probably held on the heap by the installed
package instances anyway, and the cache is useful for being inherited
by subprocess in MergeProcess.

get_counter_tick_core: use cpv_all

It's more efficient to use cpv_all since cp_all calls cpv_all anyway,
and calls to cp_list induce additional stat calls.

Cache counter values, avoiding I/O when it doesn't change.

This improves merge times by up to 25%, since looping over the vardb for
each package install is slow.

TEST=Emerge a bunch of packages, notice 25% speed improvement.
BUG=chromium-os:15112

Change-Id: I51dd617219cd1820ceeb702291bd790990995be4

vardbapi: acquire lock during counter_tick_core

dep_check_composite_db: remove unused _dep_expand

This code has been unused since dep_check started passing
token_class=Atom to use_reduce in commit
c9f7930883d62fc26af72bff0c4623db0bbc8221. Since then, any atoms
without categories are dropped by dep_check because it returns
early after catching an InvalidDependString exception.

dep_check_composite_db: implement cp_list

This is used by dep_check since commit
6f9ee9c508c1506cdf8eb0dc46796dbe30f268db.

config: call _populate_treeVirtuals directly

cpv_expand: avoid old-style virtuals more

dep_check: avoid old-style virtuals code

display_news_notification: don't populate virts

This typically isn't useful anymore, since Gentoo has stopped using
old-style virtuals.